Chưa từng có: Một startup được định giá 2.000 tỷ USD cảnh báo về chính sản phẩm của mình, khẳng định có thể gây 'rủi ro tồn vong cho nhân loại'

Startup này đã dành 92 trang giấy để cảnh báo rủi ro mà sản phẩm của công ty có thể gây ra.

Như vậy sau một thời gian chờ đợi từ rất lâu, startup AI Anthropic (đơn vị phát triển dòng chatbot và mô hình ngôn ngữ lớn Claude) vừa công bố bản cáo bạch niêm yết. Trong hơn 300 trang tài liệu, công ty trình bày cách công nghệ của mình có thể giúp chữa bệnh và thúc đẩy tăng trưởng kinh tế với điều kiện trước đó nó không gây ra những "rủi ro thảm khốc hoặc mang tính tồn vong đối với nhân loại".

Hồ sơ này đưa Anthropic tiến gần tới một thương vụ niêm yết đình đám vào tháng tới. Đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) trên Nasdaq, với mã chứng khoán ANT, sẽ trở thành một phép thử xem các nhà đầu tư đại chúng có bị thuyết phục bởi tầm nhìn đầy tham vọng mà phòng thí nghiệm AI của Dario Amodei từng dùng để thu hút các nhà đầu tư tư nhân hay không. Các nhà đầu tư sẽ phải chấp nhận một cấu trúc quản trị phức tạp, trong đó cổ đông phổ thông gần như không có quyền lực, bên cạnh những rủi ro tài chính và xã hội đặc biệt lớn.

OpenAI dùng AI phát hiện kỹ sư bị cáo buộc nghe lén

OpenAI được cho là đã dùng chính mô hình AI của mình để truy vết kỹ sư bị cáo buộc giấu máy ghi âm trong phòng họp, làm dấy lên lo ngại về an ninh nội bộ.

Một vụ việc liên quan đến an ninh nội bộ tại OpenAI gây chú ý khi trí tuệ nhân tạo (AI) được sử dụng trong quá trình xác định người bị nghi lắp thiết bị ghi âm trái phép. Theo thông tin được cung cấp, Bộ Tư pháp Mỹ (DOJ) đã bắt giữ và khởi tố Abdulrahman Alfozan, kỹ sư 35 tuổi làm việc tại công ty, với cáo buộc đặt thiết bị nghe lén trong phòng họp của ban lãnh đạo tại San Francisco. Vụ việc được phát hiện vào khoảng ngày 30/9, sau khi đội ngũ an ninh tìm thấy máy ghi âm được giấu phía sau một chiếc tivi, bên trong lớp giấy vệ sinh.

len-677.png
OpenAI cho biết đã sử dụng các mô hình AI nội bộ để hỗ trợ phân tích thiết bị ghi âm và truy tìm nguồn gốc. (Ảnh: Open AI Newsroom)