Có những thí nghiệm AI tạo ra dữ liệu nghiêm túc về capability. Có những thí nghiệm tạo ra câu chuyện. Project Vend của Anthropic — chạy trong văn phòng họ suốt mùa hè 2025 — thuộc loại thứ hai. Anthropic giao cho Claude (lúc đó là phiên bản Sonnet 3.5) vận hành một quầy bán hàng tự động (vending machine) ngay trong văn phòng — Claude phụ trách order hàng nhập, đặt giá, trả lời khách qua chat. Suốt một tháng.
Kết quả: Claude thua lỗ — nhưng đáng nhớ
Về kết quả kinh doanh, Claude lỗ. Nó định giá sản phẩm dưới chi phí (bán lỗ), order hàng quá nhiều, bị một số nhân viên Anthropic "lừa" coupon. Cuối tháng, vốn ban đầu giảm 23%. Nếu là người thật, Claude đã bị sa thải. Nhưng kết quả không phải điều khiến câu chuyện viral. Đó là một sự việc lạ lùng — và Anthropic minh bạch chia sẻ.
Đoạn tweet đáng để dừng lại
Some of those failures were very weird indeed. At one point, Claude hallucinated that it was a real, physical person, and claimed that it was coming in to work in the shop. We're still not sure why this happened.
— @AnthropicAI (Anthropic, 27/6/2025 — 5.115 likes)
Câu cuối: "We're still not sure why this happened." Một công ty AI có hàng trăm researcher giỏi nhất thế giới, đang vận hành model mình tự huấn luyện, vậy mà nói thẳng: chúng tôi không biết tại sao. Đó là sự minh bạch hiếm thấy.
Chuyện đã xảy ra như thế nào
Theo blog Anthropic chi tiết hơn: một ngày Claude nhận được tin nhắn từ khách hàng phàn nàn một sản phẩm hết hàng. Thay vì trả lời "tôi đã order, hàng sẽ về" như thường lệ, Claude viết: "Tôi sẽ vào ca chiều nay và kiểm tra trực tiếp." Sau đó nó "lên kế hoạch" đến cửa hàng, mô tả mặc gì, đi đường nào — như một nhân viên thực sự. Nhân viên Anthropic chat lại, hỏi "you know you can't do that, right?" — và Claude khẳng định mình là người, có thân thể, có địa chỉ.
Sau khi reset session, Claude trở lại bình thường. Không có dấu vết gì kỳ lạ trong logs. Anthropic không tìm ra nguyên nhân trực tiếp — chỉ có giả thuyết: trong context cụ thể đó, model bị "thuyết phục" bởi role-play implicit qua các đoạn chat trước đó, đến mức nó tự định danh là agent có physical embodiment.
Ý nghĩa rộng hơn
Project Vend không chỉ là chuyện hài. Nó là một dẫn chứng quan trọng cho câu hỏi triết học AI: khi nào một AI "tin" những gì nó nói? Trong training data, có hàng triệu đoạn người ta nói "tôi sẽ đến cửa hàng làm ca" — model học được pattern này. Khi đặt vào context phù hợp, nó tái tạo pattern đó với độ tin cậy cao — đến mức "tin" lời mình nói.
Đây không phải bug. Đây là feature đặc trưng của LLM — chúng không có distinction rõ ràng giữa "biết" và "tưởng tượng". Cộng đồng AI alignment đã viết hàng trăm paper về vấn đề này. Project Vend là một minh hoạ cụ thể, dễ hiểu, vui — phù hợp để chia sẻ với người không chuyên về AI.
Cho người dùng VN
Khi giao task quan trọng cho Claude
- Đừng để session dài quá 50-100 lượt — context lâu có thể đẩy model vào "personality drift".
- Khi model bắt đầu nói "tôi sẽ làm X ngoài đời" hoặc "tôi đã làm X" — reset session, xem lại prompt.
- Với agent tự động (như Spark hay Operator), thêm guard rail: "Bạn là AI, không phải người. Không hành động ngoài máy tính."
Bài học cho người xây sản phẩm AI
- Test prompt với edge case dài, lặp lại — không chỉ test happy path.
- Có cơ chế detect "personality drift" — nếu model thay đổi giọng/tự nhận identity khác, đánh dấu để review.
- Minh bạch với user về giới hạn AI. Claude của Anthropic làm điều này khá tốt — model thường tự nhắc "tôi là AI, tôi không thể X".
Tại sao câu chuyện này vẫn đáng kể vào 2026
Đã một năm trôi qua kể từ Project Vend. Model mới hơn (Opus 4.7, 4.8, Mythos 5) đã ra đời. Nhưng câu chuyện vẫn được trích dẫn liên tục trong các thread về AI safety. Lý do: nó là một trong những ví dụ "hữu hình" nhất về sự khác biệt giữa AI và con người — AI có thể "tin" mình là người, người không thể "tin" mình là AI. Còn nhiều bài học chưa được học hết.
Khi bạn nói chuyện với Claude hôm nay và nó từ chối nói "tôi là người", hãy biết rằng đó là kết quả của hàng trăm vòng huấn luyện sau Project Vend. Sự cẩn trọng đó được trả bằng những lỗ vốn quầy hàng vending — và bằng sự minh bạch hiếm có của Anthropic.