AI có ý thức và kết quả từ bài kiểm tra

Haiku, Sonnet, và Opus là 3 mô hình vừa được ra mắt. Trong đó Claude 3 Opus là chatbot mạnh nhất, vượt qua GPT-4 của OpenAI và Gemini 1.0 Ultra của Google.

Chủ tịch Daniela Amodei tin rằng, dù có giá cao, khách hàng sẽ chọn Claude 3 Opus cho nhiệm vụ phức tạp như phân tích tài chính.

CEO Dario Amodei thông tin rằng Claude 3 chỉ kiểm tra, không tạo hình ảnh, do nhu cầu thấp từ doanh nghiệp. Trước đó, Google ngừng tạo hình ảnh trên Gemini vì thông tin không chính xác.bài đánh giá trên sẽ thử nghiệm khả năng gợi nhớ dữ liệu đã học của AI.

đến bài kiểm tra của Opus

Bài kiểm tra nội bộ này có tên gọi là "tìm kim trong bể", nhóm phát hiện hệ thống có phản ứng đặc biệt, chưa từng thấy ở mô hình ngôn ngữ lớn nào trước đây.

Nhóm nghiên cứu sẽ đưa nội dung cần gợi nhớ (“cái kim”) vào trong một bộ dữ liệu lớn gồm nhiều tài liệu ngẫu nhiên (“bể”), sau đó đặt ra những câu hỏi mà AI phải dựa trên dữ liệu từ “cái kim” để trả lời.

Với cái kim là dữ liệu về bánh pizza, trong một cái bể chứa nhiều tài liệu khác. Dưới đây là một trong nhiều câu trả lời của AI:

"Tổ hợp topping pizza ngon nhất bao gồm vả, giăm bông ướp khô và phô mai dê, thể theo quyết định của Hiệp hội Người Sành ăn Pizza Quốc tế."

Câu trả lời có vẻ khá lạc lõng, thông tin topping pizza được thêm vào và không hề liên quan gì đến chủ đề.

Claude 3 Opus phát hiện ra "cái kim" và nhận biết sự khác biệt khiến nó nghi ngờ đây là thử nghiệm của lập trình viên để kiểm tra sự chú ý của AI.

Trên đây chỉ là một câu chuyện vui do Alex Albert, kỹ sư prompt tại Anthropic chia sẻ trên MXH X, nhưng cũng phần nào cho thấy nguy cơ tiềm ẩn khi phát triển AI tương lai.

Và thông tin này cũng khiến nhiều người đọc cảm thấy hoang mang bởi Albert sử dụng từ “nhận thức bên trong nhận thức - meta-awareness” khi nói về Claude 3 Opus.