CŨ VÀ MỚI: Ghi chú về mối tương quan giữa Trí khôn nhân tạo và Trí khôn con người
V. Các vấn đề cụ thể
49. Trong quan điểm chung này, một số nhận xét sau đây minh họa cách các lập luận trước có thể giúp cung cấp định hướng đạo đức trong các tình huống thực tế, phù hợp với “sự khôn ngoan của trái tim” mà Đức Giáo Hoàng Phanxicô đã đề xuất. [98] Mặc dù không đầy đủ, nhưng cuộc thảo luận này được đưa ra để phục vụ cho cuộc đối thoại xem xét cách AI có thể được sử dụng để bảo vệ phẩm giá của con người và cổ vũ ích chung. [99]
AI và Xã hội
50. Như Đức Giáo Hoàng Phanxicô đã nhận xét, “phẩm giá vốn có của mỗi con người và tình anh em gắn kết chúng ta lại với nhau như những thành viên của một gia đình nhân loại phải hỗ trợ cho sự phát triển của các kỹ thuật mới và đóng vai trò là tiêu chuẩn không thể chối cãi để đánh giá chúng trước khi chúng được sử dụng”. [100]
51. Nhìn qua lăng kính này, AI có thể “du nhập những đổi mới quan trọng trong nông nghiệp, giáo dục và văn hóa, nâng cao mức sống cho toàn bộ các quốc gia và dân tộc, cũng như sự phát triển của tình anh em và tình bạn xã hội của con người”, và do đó được “sử dụng để cổ vũ sự phát triển toàn diện của con người”. [101] AI cũng có thể giúp các tổ chức xác định những người cần giúp đỡ và chống lại sự phân biệt đối xử và thiệt thòi. Những ứng dụng này và các ứng dụng tương tự khác của kỹ thuật này có thể đóng góp vào sự phát triển của con người và ích chung. [102]
52. Tuy nhiên, trong khi AI có nhiều khả năng cổ vũ điều tốt đẹp, nó cũng có thể cản trở hoặc thậm chí chống lại sự phát triển của con người và ích chung. Đức Giáo Hoàng Phanxicô đã lưu ý rằng “bằng chứng cho đến nay cho thấy rằng các kỹ thuật kỹ thuật số đã làm gia tăng bất bình đẳng trên thế giới của chúng ta. Không chỉ có sự khác biệt về của cải vật chất, vốn cũng rất đáng kể, mà còn có sự khác biệt về khả năng tiếp cận ảnh hưởng chính trị và xã hội.” [103] Theo nghĩa này, AI có thể được sử dụng để duy trì sự thiệt thòi và phân biệt đối xử, tạo ra các hình thức nghèo đói mới, nới rộng “khoảng cách kỹ thuật số” và làm trầm trọng thêm bất bình đẳng xã hội hiện có.[104]
53. Hơn nữa, việc tập trung quyền lực đối với các ứng dụng AI chính thống vào tay một số ít công ty quyền lực làm dấy lên những lo ngại đáng kể về mặt đạo đức. Làm trầm trọng thêm vấn đề này là bản chất vốn có của các hệ thống AI, trong đó không một cá nhân nào có thể thực hiện giám sát hoàn toàn đối với các tập dữ kiện khổng lồ và phức tạp được sử dụng để tính toán. Việc thiếu trách nhiệm giải trình được xác định rõ ràng này tạo ra rủi ro AI có thể bị thao túng để đạt được lợi ích cá nhân hoặc doanh nghiệp hoặc để định hướng dư luận vì lợi ích của một kỹ nghệ chuyên biệt. Những thực thể như vậy, được cổ vũ bởi lợi ích riêng của họ, có khả năng thực hiện “các hình thức kiểm soát tinh vi như chúng xâm phạm, tạo ra các cơ chế để thao túng lương tâm và quá trình dân chủ”. [105]
54. Hơn nữa, có nguy cơ AI được sử dụng để cổ vũ điều mà Đức Giáo Hoàng Phanxicô gọi là “mô hình kỹ trị”, coi mọi vấn đề của thế giới đều có thể giải quyết được chỉ bằng các phương tiện kỹ thuật. [106] Trong mô hình này, nhân phẩm và tình anh em thường bị gạt sang một bên dưới danh nghĩa hiệu năng, “như thể thực tại, lòng tốt và sự thật tự động phát xuất từ sức mạnh kỹ thuật và kinh tế theo nghĩa hẹp.”[107] Tuy nhiên, nhân phẩm và ích chung không bao giờ được vi phạm vì mục đích hiệu năng,[108] vì “những phát triển kỹ thuật không dẫn đến việc cải thiện phẩm chất sự sống của toàn thể nhân loại, mà ngược lại, làm trầm trọng thêm bất bình đẳng và xung đột, không bao giờ có thể được coi là tiến bộ thực sự.”[109] Thay vào đó, AI nên được đặt để “phục vụ cho một loại tiến bộ khác, một loại tiến bộ lành mạnh hơn, nhân văn hơn, xã hội hơn, toàn diện hơn.”[110]
55. Để đạt được mục tiêu này, cần phải suy gẫm sâu sắc hơn về mối tương quan giữa quyền tự chủ và trách nhiệm. Quyền tự chủ lớn hơn làm tăng trách nhiệm của mỗi người trong nhiều khía cạnh khác nhau của đời sống cộng đồng. Đối với các Ki-tô hữu, nền tảng của trách nhiệm này nằm ở sự thừa nhận rằng mọi năng lực của con người, bao gồm cả quyền tự chủ của con người, đều phát xuất từ Thiên Chúa và nhằm mục đích phục vụ người khác.[111] Do đó, thay vì theo đuổi các mục tiêu kinh tế hoặc kỹ thuật, AI phải phục vụ “ích chung của toàn thể gia đình nhân loại”, tức là “tổng thể các điều kiện xã hội cho phép mọi người, dù là nhóm hay cá nhân, đạt được sự thành toàn của mình một cách trọn vẹn và dễ dàng hơn”. [112]
AI và các mối tương quan nhân bản
56. Công đồng Vatican II đã nhận xét rằng “theo bản chất sâu thẳm nhất của họ, con người là một thực thể xã hội; và nếu không tham gia vào các mối tương quan với người khác, con người không thể sống hay phát triển các năng khiếu của mình”. [113] Niềm xác tín này nhấn mạnh rằng sống trong xã hội là bản chất và ơn gọi của con người. [114] Là những thực thể xã hội, chúng ta tìm kiếm các mối tương quan liên quan đến trao đổi lẫn nhau và theo đuổi chân lý, trong quá trình đó, mọi người “chia sẻ với nhau chân lý mà họ đã khám phá ra hoặc nghĩ rằng họ đã khám phá ra, theo cách mà họ giúp đỡ nhau trong quá trình tìm kiếm chân lý”. [115]
57. Một cuộc tìm kiếm như vậy, cùng với các khía cạnh khác của thông đạt giữa con người, giả định có những cuộc gặp gỡ và trao đổi lẫn nhau giữa các cá nhân được hình thành bởi lịch sử, suy nghĩ, niềm tin và mối tương quan độc đáo của họ. Chúng ta cũng không thể quên rằng trí thông minh của con người là một thực tại đa dạng, nhiều mặt và phức tạp: cá nhân và xã hội, lý trí và tình cảm, khái niệm và biểu tượng. Đức Giáo Hoàng Phanxicô nhấn mạnh động lực này, lưu ý rằng “cùng nhau, chúng ta có thể tìm kiếm sự thật trong đối thoại, trong cuộc trò chuyện thoải mái hoặc trong cuộc tranh luận sôi nổi. Để làm như vậy đòi hỏi sự kiên trì; nó đòi hỏi những khoảnh khắc im lặng và đau khổ, nhưng nó có thể kiên nhẫn đón nhận trải nghiệm rộng lớn hơn của các cá nhân và dân tộc. […] Quá trình xây dựng tình huynh đệ, dù là cục bộ hay hoàn cầu, chỉ có thể được thực hiện bởi những tinh thần tự do và cởi mở với những cuộc gặp gỡ đích thực.”[116]
58. Trong bối cảnh này, người ta có thể xem xét những thách thức mà AI đặt ra đối với các mối tương quan của con người. Giống như các công cụ kỹ thuật khác, AI có tiềm năng cổ vũ các kết nối trong gia đình nhân loại. Tuy nhiên, nó cũng có thể cản trở một cuộc gặp gỡ thực sự với thực tại và cuối cùng, dẫn mọi người đến “một sự bất mãn sâu sắc và u sầu với các mối tương quan liên bản vị, hoặc một cảm giác cô lập có hại.”[117] Các mối tương quan đích thực của con người đòi hỏi sự phong phú khi ở bên người khác trong nỗi đau, lời cầu xin và niềm vui của họ.[118] Vì trí thông minh của con người được phát biểu và làm phong phú theo cả cách liên bản vị và mang thân xác, nên những cuộc gặp gỡ chân thực và tự phát với người khác là điều không thể thiếu để tương tác với thực tại một cách trọn vẹn.
59. Vì “trí khôn thực sự đòi hỏi phải gặp gỡ thực tại”,[119] sự xuất hiện của AI đặt ra một thách thức khác. Vì AI có thể bắt chước hiệu quả các sản phẩm của trí thông minh của con người, nên khả năng biết khi nào một người đang tương tác với con người hay máy móc không còn có thể được coi là điều hiển nhiên nữa. AI có thể tạo ra văn bản, giọng nói, hình ảnh và các xuất lượng [outputs] tiên tiến khác thường gắn liền với con người. Tuy nhiên, nó phải được hiểu theo đúng bản chất của nó: một công cụ, không phải là một con người.[120] Sự khác biệt này thường bị che khuất bởi ngôn ngữ mà những người thực hành sử dụng, có xu hướng nhân cách hóa AI và do đó làm mờ ranh giới giữa con người và máy móc.
60. Nhân cách hóa AI cũng đặt ra những thách thức cụ thể đối với sự phát triển của trẻ em, có khả năng khuyến khích chúng phát triển các mô hình tương tác, những mô hình xử lý các mối tương quan của con người theo lối giao tác [transactional], giống như cách người ta liên hệ với một chatbot. Những thói quen như vậy có thể khiến những người trẻ coi các thầy dậy chỉ là người cung cấp thông tin thay vì là người cố vấn hướng dẫn và nuôi dưỡng sự phát triển về mặt trí khôn và đạo đức của họ. Các mối tương quan chân chính, bắt nguồn từ sự đồng cảm và cam kết kiên định vì lợi ích của người khác, là điều cần thiết và không thể thay thế trong việc cổ vũ sự phát triển toàn diện của con người.
61. Trong bối cảnh này, điều quan trọng là phải làm rõ rằng, mặc dù sử dụng ngôn ngữ nhân hình [anthropomorphic], không có ứng dụng AI nào có thể thực sự trải nghiệm được sự tương cảm [empathy]. Cảm xúc không thể được thu gọn thành biểu thức khuôn mặt hoặc cụm từ phát sinh ra để đáp lại lời nhắc [prompts]; chúng phản ảnh cách một người, nói chung, liên hệ với thế giới và cuộc sống của chính mình, với cơ thể đóng vai trò trung tâm. Sự đồng cảm thực sự đòi hỏi khả năng lắng nghe, nhận ra sự độc đáo không thể giản lược của người khác, chào đón sự khác biệt của họ và nắm bắt ý nghĩa đằng sau ngay cả sự im lặng của họ.[121] Không giống như lĩnh vực phán đoán phân tích [analytical judgment] mà AI vượt trội, sự tương cảm thực sự thuộc về phạm vi tương quan. Nó bao gồm việc trực giác và nắm bắt những trải nghiệm sống của người khác trong khi vẫn duy trì sự khác biệt giữa bản thân và người khác.[122] Trong khi AI có thể mô phỏng các phản ứng tương cảm, nó không thể sao chép bản chất tương quan và bản vị cao cả của sự tương cảm đích thực.[123]
62. Theo quan điểm trên, rõ ràng tại sao việc xuyên tạc AI như một con người luôn phải được tránh né; làm như vậy vì mục đích gian lận là một hành vi vi phạm đạo đức nghiêm trọng có thể làm xói mòn lòng tin xã hội. Tương tự như vậy, việc sử dụng AI để lừa dối trong các bối cảnh khác—chẳng hạn như trong giáo dục hoặc trong các mối tương quan của con người, bao gồm cả lĩnh vực tình dục—cũng được coi là vô đạo đức và cần được giám sát cẩn thận để ngăn chặn, duy trì tính minh bạch và đảm bảo phẩm giá của tất cả mọi người.[124]
63. Trong một thế giới ngày càng cô lập, một số người đã chuyển sang AI để tìm kiếm các mối tương quan sâu sắc giữa con người, tình bạn đơn giản hoặc thậm chí là mối liên kết tình cảm. Tuy nhiên, trong khi con người được cho là trải nghiệm các mối tương quan chân thực, AI chỉ có thể mô phỏng chúng. Tuy nhiên, những mối tương quan như vậy với người khác là một phần không thể thiếu trong cách một người lớn lên để trở thành con người mà họ được định trở lên. Nếu AI được sử dụng để giúp mọi người nuôi dưỡng các kết nối chân thực giữa mọi người, nó có thể đóng góp tích cực vào việc nhận thức đầy đủ về con người. Ngược lại, nếu chúng ta thay thế các mối tương quan với Thiên Chúa và với người khác bằng các tương tác với kỹ thuật, chúng ta có nguy cơ thay thế mối tương quan chân thực bằng một hình ảnh vô hồn (xem Tv 106:20; Rm 1:22-23). Thay vì rút lui vào thế giới nhân tạo, chúng ta được kêu gọi tham gia một cách tận tụy và có chủ đích vào thực tại, đặc biệt là bằng cách đồng nhất hóa với người nghèo và người đau khổ, an ủi những người đau buồn và tạo nên mối liên kết hiệp thông với tất cả mọi người.
AI, nền kinh tế và lao động
64. Do bản chất liên ngành của nó, AI đang ngày càng được tích hợp vào các hệ thống kinh tế và tài chính. Hiện nay, các khoản đầu tư đáng kể đang được thực hiện không chỉ trong lĩnh vực kỹ thuật mà còn trong lĩnh vực năng lượng, tài chính và truyền thông, đặc biệt là trong các lĩnh vực tiếp thị và bán hàng, hậu cần, đổi mới kỹ thuật, tuân thủ và quản lý rủi ro.
Đồng thời, các ứng dụng của AI trong các lĩnh vực này cũng làm nổi bật bản chất mơ hồ của nó, như một nguồn cơ hội to lớn nhưng cũng là rủi ro sâu xa. Điểm quan trọng thực sự đầu tiên trong lĩnh vực này liên quan đến khả thể này là —do sự tập trung các ứng dụng AI trong tay một số ít tập đoàn—chỉ những công ty lớn mới được hưởng lợi từ giá trị do AI tạo ra chứ không phải các doanh nghiệp sử dụng nó.
65. Các khía cạnh khác rộng hơn của tác động AI đối với lĩnh vực kinh tế-tài chính cũng phải được xem xét cẩn thận, đặc biệt là liên quan đến sự tương tác giữa thực tại cụ thể và thế giới kỹ thuật số. Một xem xét quan trọng trong khía cạnh này liên quan đến việc cùng hiện hữu của các hình thức định chế kinh tế và tài chính đa dạng và thay thế trong một bối cảnh nhất định. Yếu tố này cần được khuyến khích vì nó có thể mang lại lợi ích trong cách hỗ trợ nền kinh tế thực bằng cách cổ vũ sự phát triển và ổn định của nó, đặc biệt là trong thời kỳ khủng hoảng. Tuy nhiên, cần nhấn mạnh rằng thực tại kỹ thuật số, không bị giới hạn bởi bất cứ ràng buộc không gian nào, có xu hướng đồng nhất và khách quan hơn so với các cộng đồng bắt nguồn từ một địa điểm đặc thù và một lịch sử chuyên biệt, với hành trình chung được đặc trưng bởi các giá trị và hy vọng chung, nhưng cũng có những bất đồng và khác biệt không thể tránh khỏi. Sự đa dạng này là một tài sản không thể phủ nhận đối với đời sống kinh tế của một cộng đồng. Việc chuyển giao hoàn toàn nền kinh tế và tài chính cho kỹ thuật kỹ thuật số sẽ làm giảm sự đa dạng và phong phú này. Do đó, nhiều giải pháp cho các vấn đề kinh tế có thể đạt được thông qua đối thoại tự nhiên giữa các bên liên quan có thể không còn khả thi trong một thế giới bị chi phối bởi các thủ tục và chỉ có vẻ ngoài gần gũi.
66. Một lĩnh vực khác mà AI đã có tác động sâu sắc là thế giới việc làm. Giống như nhiều lĩnh vực khác, AI đang cổ vũ những chuyển đổi cơ bản trên nhiều ngành nghề, với nhiều hiệu quả khác nhau. Một mặt, nó có tiềm năng nâng cao chuyên môn và năng suất, tạo ra việc làm mới, cho phép người lao động tập trung vào các nhiệm vụ sáng tạo hơn và mở ra chân trời mới cho sự sáng tạo và đổi mới.
67. Tuy nhiên, trong khi AI hứa hẹn sẽ cổ vũ năng suất bằng cách đảm nhiệm các nhiệm vụ tầm thường, thì nó thường buộc người lao động phải thích nghi với tốc độ và nhu cầu của máy móc thay vì máy móc được thiết kế để hỗ trợ những người làm việc. Do đó, trái ngược với những lợi ích được quảng cáo của AI, các cách tiếp cận hiện tại đối với kỹ thuật này có thể làm giảm kỹ năng của người lao động một cách nghịch lý, khiến họ phải chịu sự giám sát tự động và giao cho họ những nhiệm vụ cứng ngắc và lặp đi lặp lại. Nhu cầu theo kịp tốc độ của kỹ thuật có thể làm xói mòn ý thức về quyền tự chủ của người lao động và kìm hãm khả năng sáng tạo mà họ được kỳ vọng sẽ mang lại cho công việc của mình.[125]
68. AI hiện đang loại bỏ nhu cầu về một số công việc mà trước đây con người từng đảm nhiệm. Nếu AI được sử dụng để thay thế người lao động thay vì bổ sung cho họ, thì sẽ có “nguy cơ đáng kể về lợi ích không cân xứng cho một số ít người với cái giá là sự bần cùng hóa của nhiều người”. [126] Ngoài ra, khi AI trở nên mạnh mẽ hơn, sẽ có nguy cơ liên quan là lao động của con người có thể mất giá trị trong lĩnh vực kinh tế. Đây là hậu quả hợp lý của mô hình kỹ trị: một thế giới nhân tính bị nô lệ bởi hiệu năng, nơi mà cuối cùng, chi phí nhân tính phải bị cắt giảm. Tuy nhiên, mạng sống con người có giá trị nội tại, không phụ thuộc vào sản lượng kinh tế của họ. Tuy nhiên, “mô hình hiện tại”, Đức Giáo Hoàng Phanxicô giải thích, “dường như không ủng hộ việc đầu tư vào các nỗ lực giúp đỡ những người chậm chạp, yếu đuối hoặc kém tài năng tìm kiếm cơ hội trong cuộc sống”. [127] Theo quan điểm này, “chúng ta không thể cho phép một công cụ mạnh mẽ và không thể thiếu như Trí khôn nhân tạo củng cố một mô hình như vậy, nhưng đúng hơn, chúng ta phải biến Trí khôn nhân tạo thành một thành trì chống lại sự mở rộng của nó.”[128]
69. Điều quan trọng cần nhớ là “trật tự sự vật phải phục tùng trật tự con người, chứ không phải ngược lại.”[129] Lao động của con người không chỉ phục vụ cho lợi nhuận mà còn “phục vụ cho toàn thể con người […] có tính đến nhu cầu vật chất của con người và các yêu cầu về đời sống trí thức, đạo đức, tâm linh và tôn giáo của người đó.”[130] Trong bối cảnh này, Giáo hội thừa nhận rằng lao động “không chỉ là phương tiện kiếm cơm hàng ngày” mà còn là “một chiều kích thiết yếu của đời sống xã hội” và “một phương tiện […] để phát triển bản thân, xây dựng các mối tương quan lành mạnh, phát biểu bản thân và trao đổi quà tặng. Công việc mang lại cho chúng ta cảm giác có trách nhiệm chung đối với sự phát triển của thế giới và cuối cùng là đối với cuộc sống của chúng ta như một dân tộc.”[131]
70. Vì công việc là “một phần ý nghĩa của cuộc sống trên trái đất này, một con đường dẫn đến sự lớn mạnh, phát triển nhân bản và sự hoàn thiện bản thân,” “mục tiêu không phải là tiến bộ kỹ thuật ngày càng thay thế công việc của con người, vì điều này sẽ gây bất lợi cho nhân tính”[132]—mà là cổ vũ lao động của con người. Nhìn nhận theo hướng này, AI nên hỗ trợ chứ không thay thế phán đoán của con người. Tương tự như vậy, nó không bao giờ được làm giảm sự sáng tạo hoặc biến người lao động thành “những bánh răng trong một cỗ máy”. Do đó, “tôn trọng phẩm giá của người lao động và tầm quan trọng của việc làm đối với phúc lợi kinh tế của cá nhân, gia đình và xã hội, đối với sự an toàn việc làm và mức lương công bằng, phải là ưu tiên hàng đầu của cộng đồng quốc tế khi các hình thức kỹ thuật này thâm nhập sâu hơn vào nơi làm việc của chúng ta”. [133]
AI và Chăm sóc sức khỏe
71. Là những người tham gia vào công việc chữa lành của Thiên Chúa, các chuyên gia chăm sóc sức khỏe có ơn gọi và trách nhiệm trở thành “người bảo vệ và người phục vụ cho sự sống của con người”. [134] Vì lý do này, nghề chăm sóc sức khỏe mang một “chiều kích đạo đức nội tại và không thể phủ nhận”, được công nhận bởi Lời thề Hippocrates, trong đó buộc các bác sĩ và chuyên gia chăm sóc sức khỏe phải cam kết “tôn trọng tuyệt đối sự sống của con người và tính thánh thiêng của nó”. [135] Theo gương của Người Samaritanô nhân hậu, cam kết này sẽ được thực hiện bởi những người đàn ông và đàn bà “từ chối việc tạo ra một xã hội loại trừ và thay vào đó hành động như những người hàng xóm, nâng đỡ và phục hồi những người đã ngã xuống vì ích chung”. [136]
72. Nhìn nhận theo góc độ này, AI dường như nắm giữ một tiềm năng trong nhiều ứng dụng khác nhau trong lĩnh vực y tế, chẳng hạn như hỗ trợ công việc chẩn đoán của các nhà cung cấp dịch vụ chăm sóc sức khỏe, tạo điều kiện thuận lợi cho mối tương quan giữa bệnh nhân và nhân viên y tế, cung cấp các phương pháp điều trị mới và mở rộng khả năng tiếp cận dịch vụ chăm sóc chất lượng cho cả những người bị cô lập hoặc bị thiệt thòi. Theo những cách này, kỹ thuật có thể tăng cường “sự gần gũi đầy lòng cảm thương và yêu thương”[137] mà các nhà cung cấp dịch vụ chăm sóc sức khỏe được kêu gọi dành cho người bệnh và người đau khổ.
73. Tuy nhiên, nếu AI không được sử dụng để tăng cường mà để thay thế mối tương quan giữa bệnh nhân và nhà cung cấp dịch vụ chăm sóc sức khỏe—khiến bệnh nhân tương tác với máy móc thay vì con người—thì nó sẽ làm giảm cấu trúc tương quan giữa con người cực kỳ quan trọng thành một khuôn khổ tập trung, phi cá nhân và bất bình đẳng. Thay vì khuyến khích sự liên đới với người bệnh và người đau khổ, những ứng dụng AI như vậy có nguy cơ làm trầm trọng thêm sự cô đơn thường đi kèm với bệnh tật, đặc biệt là trong bối cảnh của một nền văn hóa mà “con người không còn được coi là giá trị tối quan trọng cần được chăm sóc và tôn trọng nữa”.[138] Việc sử dụng sai mục đích AI này sẽ không phù hợp với sự tôn trọng phẩm giá của con người và sự liên đới với người đau khổ.
74. Trách nhiệm đối với sức khỏe của bệnh nhân và các quyết định liên quan đến cuộc sống của họ là trọng tâm của nghề chăm sóc sức khỏe. Trách nhiệm này đòi hỏi các chuyên gia y tế phải vận dụng mọi kỹ năng và trí khôn của mình để đưa ra những lựa chọn hợp lý và có cơ sở đạo đức liên quan đến những người được giao phó cho họ chăm sóc, luôn tôn trọng phẩm giá bất khả xâm phạm của bệnh nhân và nhu cầu đồng ý có hiểu biết. Do đó, các quyết định liên quan đến việc điều trị bệnh nhân và mức độ trách nhiệm mà chúng đòi hỏi phải luôn thuộc về con người và không bao giờ được giao cho AI.[139]
75. Ngoài ra, việc sử dụng AI để xác định ai sẽ được điều trị chủ yếu dựa trên các biện pháp kinh tế hoặc số đo hiệu năng là một trường hợp đặc biệt có vấn đề của “mô hình kỹ trị” phải bị bác bỏ.[140] Vì, “tối ưu hóa tài nguyên có nghĩa là sử dụng chúng theo cách có đạo đức và tình anh em, và không trừng phạt những người yếu đuối nhất.”[141] Ngoài ra, các công cụ AI trong chăm sóc sức khỏe “tiếp xúc với các hình thức thiên vị và phân biệt đối xử,” trong đó “các lỗi hệ thống có thể dễ dàng nhân lên, không chỉ tạo ra bất công trong các trường hợp cá thể mà, do hiệu ứng domino, còn tạo ra các hình thức bất bình đẳng xã hội thực sự.”[142]
76. Việc tích hợp AI vào chăm sóc sức khỏe cũng gây ra nguy cơ khuếch đại các chênh lệch hiện có khác trong việc tiếp cận chăm sóc y tế. Khi chăm sóc sức khỏe ngày càng hướng đến các phương pháp tiếp cận dựa trên phòng ngừa và lối sống, các giải pháp do AI cổ vũ có thể vô tình ưu tiên những nhóm dân số giàu có hơn, những người đã được tiếp cận tốt hơn với các nguồn lực y tế và dinh dưỡng chất lượng. Xu hướng này có nguy cơ củng cố mô hình "thuốc cho người giàu", trong đó những người có phương tiện tài chính được hưởng lợi từ các công cụ phòng ngừa tiên tiến và thông tin sức khỏe được cá nhân hóa trong khi những người khác phải vật lộn để tiếp cận ngay cả các dịch vụ cơ bản. Để ngăn chặn những bất bình đẳng như vậy, cần có các khuôn khổ công bằng để đảm bảo rằng việc sử dụng AI trong chăm sóc sức khỏe không làm trầm trọng thêm tình trạng bất bình đẳng hiện có trong chăm sóc sức khỏe mà thay vào đó phục vụ ích chung.
Còn 1 Kỳ