AI vô hại cũng ẩn chứa nguy hiểm cho nhân loại_ty le ca cuoc ngoai hang anh

Những người đứng đầu hơn 100 công ty trí tuệ hàng đầu thế giới rất lo ngại về sự phát triển của “killer robots” (tạm dịch: robot giết người).

Trong một bức thư ngỏ gửi tới Liên Hợp Quốc,ôhạicũngẩnchứanguyhiểmchonhânloạty le ca cuoc ngoai hang anh những nhà lãnh đạo doanh nghiệp này - bao gồm cả Elon Musk của Tesla và những người sáng lập Công ty AI DeepMind AI của Google - đã cảnh báo rằng, công nghệ vũ khí tự hành có thể bị lạm dụng bởi bọn khủng bố hay tấn công theo những cách không mong muốn...

Liệu ‘killer robot’ có nguy hiểm hơn cả hệ thống ‘AI tốt’? - Ảnh: Shutterstock

Nhưng mối đe dọa đến từ Trí tuệ nhân tạo (A)I thực sự là lớn hơn nhiều, và không chỉ giới hạn ở các hành vi sai trái của con người mà từ chính máy móc.

Nghiên cứu mới đây cho thấy, xã hội loài người có thể cư xử rất khác với những gì người ta mong đợi khi chỉ nhìn vào hành vi cá nhân. Và điều này có thể áp dụng cho công nghệ.

Có nghĩa là ngay cả khi các robot hoạt động riêng lẻ rất tốt thì khi cả hệ thống hoạt động chưa chắc đã hoàn hảo, thậm chí trở nên khó đoán định và nảy sinh nhiều vấn đề. Điều này tương tự như kiểu sau nhiều năm nghiên cứu khí tượng, con người vẫn không thể dự đoán thời tiết chính xác trong dài hạn.

Các nhà khoa học đã nghiên cứu hệ thống AI phức tạp, gồm các chương trình "tốt", được sử dụng để tự động chỉnh sửa bài viết trên Wikipedia. Những chương trình khác nhau có thiết kế đáng tin cậy và được khai thác bởi các biên tập viên Wikipedia. Hoạt động riêng biệt nhưng tất cả đều nhắm đến mục tiêu chung là cải tiến bách khoa toàn thư mở này.

Tuy nhiên, điều ngạc nhiên là hành vi tập thể của chúng hóa ra không hiệu quả. Những Wikipedia-bots này hoạt động dựa trên các quy tắc đã thiết lập. Nhưng do trang web không có một hệ thống quản lý tập trung, không có sự phối hợp hiệu quả giữa các chương trình điều hành, kết quả là các chương trình đã hoàn tác chỉnh sửa lẫn nhau trong suốt nhiều năm mà không ai để ý. Và do các chương trình này thiếu "nhận thức" nên chúng cũng không "ngộ ra" điều đó.