Không kiểm soát được trí tuệ nhân tạo, Facebook cuống cuồng “tiêu diệt” đề phòng hậu họa

Có vẻ viễn cảnh máy móc thống trị thế giới không còn xa khi mới đây, bộ phận nghiên cứu trí tuệ nhân tạo của Facebook đã phải hủy một AI có khả năng tạo ra ngôn ngữ mới.

Trí tuệ nhân tạo là một thành tựu trong kỷ nguyên khoa học công nghệ ngày nay của con người. Công nghệ này hữu dụng nhưng cũng đem đến nỗi sợ không thể kiểm soát và nổi dậy bất cứ lúc nào.

Tưởng như câu chuyện này chỉ có trong phim khoa học viễn tưởng, nhưng có vẻ như nó đang diễn ra tại phòng nghiên cứu AI của Facebook. Các kỹ sư tại đây vừa phải “tiêu diệt” AI quá thông minh.

AI này được dạy bằng tiếng Anh, nhưng có vẻ như nó đã chán ngán với những sắc thái và sự không nhất quán của ngôn ngữ này. Thay vì tiếp tục sử dụng nó, AI đã tạo ra một hệ thống mã mới để giao tiếp hiệu quả hơn.

Đối với con người, những từ mà chúng sử dụng có thể là vô nghĩa, nhưng chúng có thể giao tiếp với nhau và con người không thể hiểu nổi và không biết được những toan tính đằng sau đó.

Trong một lần giao tiếp, Bob và Alice (hai trí tuệ nhân tạo) đã từ bỏ sử dụng các cấu trúc ngữ pháp tiếng Anh và bắt đầu giao tiếp bằng cách sử dụng thứ ngôn ngữ mà chúng tự tạo ra.

Bob đã mở đầu bằng câu “I can i i everything else”, Alice đáp lại “balls have zero to me to me to me…”. Và cuộc trò chuyện cứ thế tiếp tục theo cách đó. Các nhà nghiên cứu cho rằng, cuộc hội thoại này bao hàm nhiều thứ có nghĩa chứ không đơn thuần là những gì chúng ta thấy.

Trí tuệ nhân tạo sử dụng hệ thống “khen thưởng” riêng. Trong đó, chúng chờ đợi, đánh giá những hành động có ích và đem lại hiệu quả cao.

Dhruv Batra, một nhà nghiên cứu thuộc Viện Công nghệ Georgia Tech (Mỹ), người từng làm việc tại Facebook AI Research (FAIR) chia sẻ: “Không có tín hiệu 'khen thưởng' nào dành cho tiếng Anh cả. Các cỗ máy sẽ cuốn theo những ngôn ngữ dễ hiểu và sáng tạo ra các mã dành riêng cho chúng”.

Cuối cùng thì Facebook cũng nhận ra AI đang cố gắng hoạt động bằng cách đơn giản hóa tiếng Anh, nhưng có vẻ chính các nhà nghiên cứu đôi khi cũng không hiểu rõ những ngôn ngữ mà AI tạo ra.

Rất nhanh chóng, họ quyết định hủy những trí tuệ nhân tạo này vì không kiểm soát được chúng để để phòng hậu họa.

Theo Pcgamer

Nội dung liên quan:

>> Trong khi Elon Musk hì hục hợp nhất não người với trí tuệ nhân tạo thì Facebook đã cho nó "làm bạn" với con người

>> Facebook sắp thâu tóm truyền thông khi nhảy vào lĩnh vực truyền hình với Facebook TV

>> Bất chợt tìm ra cách "trộm" tài khoản Facebook không thể đơn giản hơn