Geoffrey Hinton là một nhà khoa học máy tính người Anh-Canada, người có công trình nghiên cứu về mạng nơ-ron nhân tạo, nhận giải Nobel Vật lý năm 2024

Hinton đã so sánh loài người với những đứa trẻ ba tuổi và gợi ý rằng chúng ta sẽ tiếp tục trao cho AI nhiều quyền lực hơn : "Sẽ không khó để bạn thuyết phục một nhóm trẻ ba tuổi nhường quyền lực cho bạn." "Bạn chỉ cần nói với họ rằng bạn sẽ được tặng kẹo miễn phí trong một tuần và thế là xong."

Khi Marr hỏi Hinton liệu ông có ngụ ý rằng những siêu trí tuệ này có ý thức riêng hay không, vị giáo sư trả lời là "có": "Hiện tại, có đủ thứ mà chúng ta chỉ hiểu [một cách tối thiểu] về bản chất của con người và ý nghĩa của việc trở thành một sinh vật, và ý nghĩa của việc có một bản ngã. (When Marr pushed Hinton on whether he’s implying these superintelligences have their own consciousnesses, the professor replied 'yes': “There's all sorts of things we have only the [smallest] understanding of at present about the nature of people and what it means to be a being, and what it means to have a self.)

"Chúng ta không hiểu rõ những điều đó, nhưng việc hiểu được những điều đó đang trở nên vô cùng quan trọng vì hiện nay chúng ta đang tạo ra các sinh vật."

Ông lưu ý rằng mặc dù công nghệ mới không phải lúc nào cũng gây ra tình trạng mất việc làm trong quá khứ , nhưng AI nên được coi như cuộc cách mạng công nghiệp: "Những người làm công việc văn phòng sẽ bị thay thế bởi máy móc làm việc rẻ hơn và tốt hơn, vì vậy tôi lo ngại rằng sẽ có tình trạng mất việc làm hàng loạt."

Có lẽ khía cạnh đáng sợ nhất là ý tưởng rằng AI có thể vượt qua các biện pháp bảo vệ: "Trong thời gian chúng ta đào tạo AI, AI sẽ giả vờ không thông minh như nó đang thực sực có... Vậy nên việc chúng ta không biết cách quản lý chúng đã đủ đáng sợ rồi.

"Tôi nghĩ điều tốt nhất chúng ta có thể làm hiện nay là nên dành nhiều nguồn lực để nghiên cứu cách thức giữ an toàn ».

"Vì vậy, điều tôi ủng hộ là chính phủ buộc các công ty lớn phải đầu tư nhiều nguồn lực hơn vào nghiên cứu về an toàn."

Hinton kết luận rằng mặc dù AI có thể làm được những "điều tuyệt vời" trong ngắn hạn như cải tiến y tế, nhưng bức tranh toàn cảnh cho thấy chúng ta vẫn chưa biết cách làm cho AI trở nên "an toàn".

HCD : Lâu nay cũng đã có nhiều khoa học gia lo ngại hay run sợ chuyện AI làm chủ con người.