Thông điệp của Giáo hoàng về AI không thực sự nói về AI

Thông điệp về AI của Giáo hoàng thực chất không phải về AI

Giáo hoàng Leo XIV đã công bố thông điệp đầu tiên của mình vào thứ Hai, mang tên Magnifica Humanitas, về "bảo vệ con người trong thời đại trí tuệ nhân tạo." Và mặc dù AI là điểm khởi đầu, nhưng những vấn đề mà Giáo hoàng Leo tập trung vào lại lâu đời hơn và phổ biến hơn: bất bình đẳng, chiến tranh, sự xói mòn của nền dân chủ và sự tập trung quyền lực trong tay những người không nhất thiết quan tâm đến việc nhân loại nói chung có còn tuyệt vời hay không.

Trong suốt tài liệu dài 200 trang, mà Giáo hoàng đã trình bày cùng với đồng sáng lập Anthropic, Chris Olah, Leo lập luận rằng công nghệ được xây dựng và quản lý bởi một nhóm nhỏ ưu tú thì về bản chất không thể phục vụ lợi ích chung. "Khi quyền lực như vậy tập trung trong tay một số ít, nó có xu hướng trở nên mờ ám và trốn tránh sự giám sát của công chúng, làm tăng nguy cơ phát triển lệch lạc dẫn đến sự phụ thuộc, loại trừ, thao túng và bất bình đẳng mới," ông viết.

"Trên thực tế, như với mọi sự thay đổi công nghệ lớn, AI có xu hướng khuếch đại sức mạnh của những người đã sở hữu nguồn lực kinh tế, chuyên môn và khả năng tiếp cận dữ liệu," thông điệp tiếp tục, nhấn mạnh những lo ngại rằng giới tinh hoa có thể sử dụng quyền lực của họ để "định hình thông tin và mô hình tiêu dùng, gây ảnh hưởng đến các quy trình dân chủ và điều khiển động lực kinh tế theo hướng có lợi cho họ."

Thông điệp được đưa ra vài ngày sau khi Tổng thống Donald Trump trì hoãn việc ký sắc lệnh về AI của mình, sắc lệnh này sẽ trao cho chính phủ quyền giám sát các mô hình mới trước khi chúng được phát hành, được cho là theo lời khuyên của nhà đầu tư VC và cựu sa hoàng AI của Nhà Trắng, David Sacks. Giáo hoàng Leo kêu gọi AI được hướng dẫn bởi "các tiêu chí rõ ràng và sự giám sát hiệu quả" dựa trên sự tham gia từ các cộng đồng sẽ bị ảnh hưởng bởi nó.

Cụ thể hơn, Leo kêu gọi chấm dứt cuộc chạy đua vũ trang AI "cho các thuật toán mạnh hơn và bộ dữ liệu lớn hơn" mà các công ty và quốc gia tin rằng sẽ "đảm bảo sự thống trị địa chính trị hoặc thương mại."

"Giải trừ vũ khí có nghĩa là làm mất uy tín của giả định rằng sức mạnh kỹ thuật tự động mang lại quyền cai trị," ông viết. Một lần nữa, những động lực này có trước AI. Rerum Novarum năm 1891 của Giáo hoàng Leo XIII đã đề cập đến sự tập trung quyền lực tương tự trong cuộc Cách mạng Công nghiệp, nhưng chúng ta không cần phải nhìn lại xa đến thế. Việc Elon Musk mua lại Twitter và triển khai nền tảng để giúp bầu Trump; hàng trăm triệu đô la từ giới tinh hoa công nghệ đổ vào các siêu ủy ban hành động chính trị (super PAC) để chặn quy định về AI — loại mô hình rõ ràng đã truyền cảm hứng cho công việc của Leo XIV.

Giáo hoàng đi đến kết luận tương tự như nhiều người đã đạt được: sức mạnh và khả năng siêu thực của AI ngày nay làm tăng đáng kể tiền cược. Giáo sư Paolo Carozza của Trường Luật Notre Dame, một thành viên của Học viện Khoa học Xã hội Giáo hoàng và là chủ tịch của Ban Giám sát Meta, nói với TechCrunch rằng thông tin sai lệch và deepfake do AI điều khiển đã "làm xói mòn khả năng nhận ra đâu là sự thật và đâu không phải sự thật của chúng ta, và điều đó thực sự gây ra hậu quả cho chính trị dân chủ."

Ông nói thêm rằng việc ngành công nghệ "thu thập và thao túng" dữ liệu con người đặt ra "những thách thức cơ bản đối với tự do nhận thức."

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.

Rebecca Bellan là phóng viên cấp cao tại TechCrunch, nơi cô đưa tin về các doanh nghiệp, chính sách và xu hướng mới nổi định hình trí tuệ nhân tạo. Các tác phẩm của cô cũng đã xuất hiện trên Forbes, Bloomberg, The Atlantic, The Daily Beast và các ấn phẩm khác. Bạn có thể liên hệ hoặc xác minh thông tin liên lạc từ Rebecca bằng cách gửi email tới rebecca.bellan@techcrunch.com hoặc qua tin nhắn được mã hóa tại rebeccabellan.491 trên Signal. Xem Tiểu sử