Geoffrey Hinton, giáo sư danh dự tại Đại học Toronto ở Canada, người được mệnh danh là “Cha đỡ đầu của AI“, đã nói về mối đe dọa của trí tuệ nhân tạo (AI) trong một cuộc phỏng vấn với truyền thông Nhật Bản. Ông cho biết, nhiều người nghĩ rằng nếu muốn ngăn AI vượt khỏi tầm kiểm soát, họ chỉ cần tắt công tắc nguồn. Nhưng có những AI vượt trội hơn trí thông minh của con người và có thể dùng lời nói để thao túng chúng ta, hoặc cố gắng thuyết phục chúng ta đừng tắt công tắc.
Ông Hinton là người tiên phong về “Deep Learning” (học sâu) và mạng lưới thần kinh (đề cập đến các mô hình toán học mô phỏng bộ não con người), nghiên cứu của ông đã giúp đặt nền móng cho sự phát triển của AI. Năm 2023, ông đột ngột từ chức tại Google, nơi ông đã làm việc hơn 10 năm và bắt đầu nói về mối đe dọa của AI.
Vào ngày 22/3, tờ Nihon Keizai Shimbun đã đăng bài phỏng vấn độc quyền với ông Hinton. Ông cho rằng nếu AI được giao mục tiêu như một giải pháp, nó có thể tìm ra cách gây bất lợi cho con người. Ví dụ, hãy tưởng tượng việc đưa ra hướng dẫn cho AI để hạn chế biến đổi khí hậu. Tại thời điểm này, AI sẽ nhận ra rằng cần phải loại bỏ con người để đạt được mục tiêu của mình, do đó ông lo lắng về nguy cơ thực sự thực hiện nó.
Ông Hinton cho rằng có thể sẽ có sự cạnh tranh giữa các AI khác nhau trong tương lai. Ví dụ: nếu AI cạnh tranh để giành các tài nguyên như trung tâm dữ liệu, thì đó sẽ là một quá trình tiến hóa giống như một sinh vật. Khi chúng ta đối mặt với AI trở nên thông minh hơn thông qua cạnh tranh, con người sẽ bị tụt lại phía sau.
Ông Hinton cũng dự đoán trong vòng 10 năm tới sẽ có vũ khí robot (hay robot sát thủ) có thể tự động giết chết con người. Ông cho rằng vũ khí robot sớm hay muộn có thể bị hạn chế, nhưng điều này có thể không thực hiện được cho đến khi chúng thực sự được sử dụng trên chiến trường và con người nhận ra hậu quả sẽ bi thảm đến mức nào.
Ông cũng cho biết nếu giải thích từ góc độ trải nghiệm
chủ quan, ông tin rằng AI có thể có những cảm xúc giống như con người, và con
người cũng sẽ trải qua những sự kiện không phù hợp với sự thật khách quan. Ví
dụ, nếu tôi uống nhiều rượu, buổi sáng khi tôi thức dậy, một con voi nhỏ màu
hồng xuất hiện trước mắt tôi do bị ảo giác, tuy nhiên tôi không tin vào sự tồn
tại của con voi nhỏ mà chỉ nghĩ rằng hệ thống nhận biết của tôi không hoạt động
bình thường nên đây chỉ là một thể nghiệm nội tại.
Ông cho rằng AI thu thập thông tin hình ảnh qua camera cũng có thể gây ra tình huống tương tự. Đặt một vật thể trước máy ảnh và dùng lăng kính để bẻ cong ánh sáng, tạo ảo giác vật thể ở xa. Nếu một AI đàm thoại giải thích rằng hệ thống nhận thức của nó không hoạt động bình thường do lăng kính, chúng ta có thể nói rằng nó có cảm giác giống như con người.
Báo cáo: AI có thể khiến loài người tuyệt chủng
Mới đây, Bộ Ngoại giao Mỹ ủy quyền cho các công ty tư
nhân tiến hành nghiên cứu về trí tuệ nhân tạo (AI). Báo cáo của Bộ Ngoại giao
Mỹ chỉ ra rằng trí tuệ nhân tạo phát triển nhanh chóng như hiện nay sẽ mang đến
những rủi ro an ninh quốc gia “thảm khốc”, đồng thời cảnh báo rằng thời gian
của chính phủ không còn nhiều và phải can thiệp. Một quan chức Bộ Ngoại giao Mỹ
xác nhận rằng báo cáo này được Chính phủ Mỹ ủy quyền để đánh giá cách trí tuệ
nhân tạo có thể bảo vệ lợi ích của đất nước. Tuy nhiên, quan chức này nhấn mạnh
rằng báo cáo không thể hiện quan điểm của Chính phủ Mỹ.
Theo báo cáo của CNN, Bộ Ngoại giao Mỹ gần đây đã ủy quyền cho công ty tư nhân Gladstone AI thực hiện một báo cáo nghiên cứu về trí tuệ nhân tạo (AI), công ty này trực tiếp tuyên bố rằng hệ thống trí tuệ nhân tạo tiên tiến nhất, trong trường hợp xấu nhất, có thể mang đến cho con người mối đe dọa “cấp độ diệt chủng”. Cuộc khảo sát này là kết quả của các cuộc phỏng vấn với hơn 200 người trong hơn một năm, những người được phỏng vấn đến từ các giám đốc điều hành cấp cao của các công ty trí tuệ nhân tạo, các chuyên gia về vũ khí hủy diệt hàng loạt, và các nhà nghiên cứu an ninh mạng, cũng như các quan chức an ninh quốc gia trong chính phủ.
Ông Jeremie Harris, Giám đốc điều hành và đồng sáng lập của Gladstone AI, đã chỉ ra trong một cuộc phỏng vấn với CNN rằng trí tuệ nhân tạo đã là một công nghệ mang tính biến đổi về mặt kinh tế, có thể cho phép chúng ta chữa khỏi bệnh tật và thực hiện những khám phá khoa học, thậm chí vượt qua những thách thức mà chúng ta từng nghĩ là không thể vượt qua. Tuy nhiên, nó cũng có thể mang lại những rủi ro nghiêm trọng, các nghiên cứu và phân tích thực nghiệm được công bố tại các hội nghị trí tuệ nhân tạo hàng đầu thế giới ngày càng chỉ ra rằng khi vượt quá một ngưỡng nhất định, trí tuệ nhân tạo có thể trở nên không thể kiểm soát được.
Gladstone AI cho rằng các hệ thống trí tuệ nhân tạo tiên
tiến nhất có thể được vũ khí hóa và gây ra tác hại không thể khắc phục.
Báo cáo nêu rõ rằng có những lo ngại tiềm ẩn trong các phòng thí nghiệm trí tuệ nhân tạo vì các nhà nghiên cứu có thể mất quyền kiểm soát các hệ thống đang được phát triển, điều này sẽ gây ra hậu quả tàn khốc cho an ninh toàn cầu. Ngoài ra, sự trỗi dậy của trí tuệ nhân tạo cũng có thể làm suy yếu an ninh và ổn định toàn cầu, giống như vũ khí hạt nhân, các quốc gia có thể bắt đầu một vòng chạy đua vũ trang mới trong lĩnh vực trí tuệ nhân tạo.
Trong báo cáo, Gladstone AI kêu gọi Chính phủ Mỹ khẩn trương can thiệp và thực hiện các biện pháp quan trọng mới để đối phó với mối đe dọa này, bao gồm thành lập một cơ quan trí tuệ nhân tạo mới, áp dụng các biện pháp bảo vệ quy định khẩn cấp và thậm chí hạn chế sử dụng máy tính để đào tạo các mô hình trí tuệ nhân tạo.
Gladstone AI cho biết, một số nhân viên của các công ty
trí tuệ nhân tạo cũng có mối lo ngại tương tự, một người từ phòng thí nghiệm
trí tuệ nhân tạo nổi tiếng đã chỉ ra rằng sẽ rất tệ nếu một mô hình trí tuệ
nhân tạo cụ thể được mở ra cho công chúng, vì nó có thể sẽ được sử dụng để can
thiệp vào cuộc bầu cử hoặc thao túng cử tri, từ đó làm suy yếu nền dân chủ.
Vương Quân Vision Times
No comments:
Post a Comment