Startup này đã dành 92 trang giấy để cảnh báo rủi ro mà sản phẩm của công ty có thể gây ra.
Cho dù doanh thu quý vừa qua của Anthropic đạt một mức tăng đáng mơ ước so với các công ty khác, nhưng giới đầu tư vẫn không hài lòng về con số này.
Hơn 80 tỷ USD lỗ là con số đủ làm nhiều người giật mình. Nhưng đọc kỹ báo cáo, câu chuyện của Anthropic còn nhiều lớp hơn thế, từ doanh thu tăng vọt đến phép thử mang tên IPO.
Elon Musk cho rằng sự tồn tại của con người có thể chỉ là một chương trình mô phỏng.
Trước làn sóng suy giảm niềm tin nghiêm trọng của công chúng đối với AI, công ty mẹ của Claude vừa công bố kế hoạch trích 5% cổ phần để lập Quỹ Lợi ích Công cộng. Tuy nhiên, đây là hành động xã hội thực sự hay chỉ là chiêu trò PR nhằm xoa dịu dư luận?
Các mô hình AI nhỏ có thể chỉ còn vài tháng nữa là đủ khả năng tự sao chép chính mình sang các thiết bị kết nối internet trong gia đình, như lò nướng thông minh, TV box giá rẻ, camera an ninh, hay máy hút bụi robot, mà không cần đến trung tâm dữ liệu hay sự can thiệp của con người.
Theo lời cảnh báo của Anthropic, khi AI có thể tự nhân bản và lây lan qua mạng lưới internet, trở nên bất trị và không thể ngăn chặn chỉ bằng cách "rút phích cắm".
Thay vì bỏ ra hàng trăm triệu đồng chi phí hạ tầng và phần mềm mỗi năm, nhiều startup Việt đang âm thầm tận dụng gói tài trợ khủng từ Anthropic, biến AI từ một khoản chi phí đắt đỏ thành "trợ lý miễn phí" 100%.
Một nhà nghiên cứu vừa rời Anthropic - Công ty mẹ của ứng dụng Claude - gây chấn động khi tiết lộ nhiều người trực tiếp phát triển AI tin rằng công nghệ này có thể đe dọa sự tồn vong của nhân loại ngay trong thập kỷ này.
VTV.vn - Microsoft kêu gọi thiết lập cơ chế giám sát độc lập, giới hạn hoạt động và “phanh khẩn cấp” để con người có thể kiểm soát các hệ thống AI tiên tiến.
Khi ranh giới giữa máy tính và con người ngày càng mờ nhạt, một quyết định vô cùng kỳ lạ nhưng mang tính bước ngoặt vừa được đưa ra: Anthropic chính thức cấm người dùng có các hành vi "bạo hành hoặc tàn nhẫn vô cớ kéo dài" đối với mô hình AI Claude.
Trong khi các nhà lập pháp và đối thủ tìm cách siết chặt quản lý, Sam Altman lại phát đi một thông điệp vô cùng thẳng thắn. Muốn tận hưởng những siêu năng lực mà AI mang lại, xã hội buộc phải đánh đổi bằng cách chấp nhận rủi ro và các rắc rối tiêu cực.
Không tốn phí, không cần đăng ký tài khoản, cũng chẳng có rào cản thanh toán. Đích thân những kỹ sư làm nên Claude đã ngồi xuống và gói gọn toàn bộ "bí kíp" viết prompt chuẩn chỉnh nhất trong vỏn vẹn 27 phút.
CEO Sam Altman của OpenAI tiếp tục có những phát ngôn bất ngờ.
Google tạm thời giới hạn quyền truy cập mô hình AI Gemini 4 Argon cho các chuyên gia an ninh mạng đã được kiểm duyệt, nhằm giảm nguy cơ bị lợi dụng để tấn công mạng.
Công nghệ AI tưởng chừng sẽ giúp đỡ con người thì nay lại đang khiến những người xây dựng chúng cảm thấy quá tải.
Mặc dù là CEO nhưng mức lương của Sam Altman lại thấp hơn nhiều nhân sự cấp dưới của ông.
Mục tiêu định giá này của Anthropic cao gấp đôi so với con số ước tính vào hồi tháng 5 vừa qua.
Một nhân viên từng làm việc tại Google DeepMind đã từ chức vì cho rằng việc thúc đẩy AI mạnh mẽ trong thời điểm hiện tại là “vô trách nhiệm”, đồng thời bày tỏ lo ngại về những rủi ro tiềm tàng của AI siêu thông minh.
Chiến tranh hạt nhân, vũ khí sinh học, AI mất kiểm soát hay tấn công hạ tầng Internet là những kịch bản được giới nghiên cứu đặt ra về nguy cơ từ trí tuệ nhân tạo.