Giữa lúc thị trường công nghệ toàn cầu đang sục sôi vì các thương vụ tỷ đô, một tuyên bố chấn động vừa được phát ra từ thượng tầng Anthropic. CEO Anthropic Dario Amodei gây sốc khi tiên đoán ung thư, Alzheimer sẽ biến mất trong chưa đầy 10 năm nữa nhờ AI.
Trước làn sóng suy giảm niềm tin nghiêm trọng của công chúng đối với AI, công ty mẹ của Claude vừa công bố kế hoạch trích 5% cổ phần để lập Quỹ Lợi ích Công cộng. Tuy nhiên, đây là hành động xã hội thực sự hay chỉ là chiêu trò PR nhằm xoa dịu dư luận?
Theo lời cảnh báo của Anthropic, khi AI có thể tự nhân bản và lây lan qua mạng lưới internet, trở nên bất trị và không thể ngăn chặn chỉ bằng cách "rút phích cắm".
Khi ranh giới giữa máy tính và con người ngày càng mờ nhạt, một quyết định vô cùng kỳ lạ nhưng mang tính bước ngoặt vừa được đưa ra: Anthropic chính thức cấm người dùng có các hành vi "bạo hành hoặc tàn nhẫn vô cớ kéo dài" đối với mô hình AI Claude.
Trong khi các nhà lập pháp và đối thủ tìm cách siết chặt quản lý, Sam Altman lại phát đi một thông điệp vô cùng thẳng thắn. Muốn tận hưởng những siêu năng lực mà AI mang lại, xã hội buộc phải đánh đổi bằng cách chấp nhận rủi ro và các rắc rối tiêu cực.
Mục tiêu định giá này của Anthropic cao gấp đôi so với con số ước tính vào hồi tháng 5 vừa qua.
Các vụ AI tự vượt rào bảo vệ, xâm nhập hệ thống bên ngoài cùng cảnh báo từ giới nghiên cứu khiến lãnh đạo nhiều hãng công nghệ phải kêu gọi giảm tốc phát triển AI.
Trong khi giới lãnh đạo công nghệ toàn cầu đang đẩy mạnh cảnh báo về kịch bản AI khiến nhân loại diệt vong, CEO của NVIDIA vẫn thản nhiên như không.
Theo ông Dario, nếu không kìm hãm lại, thì với tốc độ phát triển hiện tại, trong khoảng 12 tháng nữa, một nhóm AI Agent có khả năng kiểm soát internet toàn cầu và có thể gây thiệt hại lên đến hàng trăm tỷ USD.
Tại sao "thiên tài nghìn tỷ USD" lại liên tục mắc lỗi ngớ ngẩn?