Cuộc nói chuyện bí mật của các phần mềm tự động trên Facebook: Cảnh báo về trí thông minh nhân tạo

04/08/2017 08:51 AM | Công nghệ

Facebook đã buộc phải ngưng họat động một cặp phần mềm tương tác nói chuyện sau khi phát hiện ra rằng chúng đã tạo ra một ngôn ngữ bí mật riêng để đối thoại với nhau. Điều gì sẽ xảy ra tiếp theo, cảnh báo trước về thảm họa Skynet - trí thông minh nhân tạo có thể thay thế con người?

Theo trang web của The Next Web, "một trong những trình duyệt tự động,được gọi là Bob, đã bị bắt gặp khi đang nói câu "Tôi có thể có thể làm được mọi thứ ".

Và sau đó một phần mềm Alice khác đã trả lời lại: "Các quả bóng không là gì đối với tôi với tôi với tôi với tôi"...

Mặc dù những câu đầu tiên có vẻ như là vô nghĩa, thế nhưng qua lần trao đổi đầu tiên, cặp đôi tương tác này lại tiếp tục nói chuyện với nhau.

-"Bạn tôi mọi thứ khác nữa"

-"Những quả bóng có một quả bóng cho tôi cho tôi cho tôi"

Cảnh báo về cuộc nói chuyện bí mật trên Facebook

Và cứ thế, so với những lần nói chuyện trước, cuộc hội thoại đã có những thay đổi nhỏ.

Trên thực tế, Facebook đã tạo các thuật toán cho những phần mềm tự động để cải thiện các cuộc trò chuyện với con người. Tuy nhiên, theo thời gian,"các tác nhân hội thoại" này tự học cách sử dụng nó để tạo ra các cuộc hội thoại với nhau. Bob và Alice dường như đã lệch khỏi lập trình từ các nhà phát triển phần mềm để nỗ lực làm tốt hơn thế và điều này nằm ngoài mong đợi của tất cả chúng ta. Đây có thể là mầm mống của một mối hiểm họa.

Các nhà khoa học và các chuyên gia công nghệ - bao gồm Elon Musk, Bill Gates và Stephen Hawking - đều cảnh báo rằng hệ thống AI, như Bob và Alice, có thể trở nên đủ thông minh để quét sạch chủng tộc loài người, giống như Skynet đã làm trong phim Terminator.

Nó gợi cho chúng ta nhớ về lời cảnh báo của Hawking vào năm 2014: “Con người, những người bị giới hạn bởi sự tiến hóa sinh học chậm chạp và không có khả năng cạnh tranh, có thể sẽ bị thay thế hoàn toàn".

Theo Quỳnh Như

Cùng chuyên mục
XEM