TALLAHASSEE, Florida (NV) – Hôm Thứ Tư, 21 Tháng Năm, một thẩm phán liên bang bác bỏ lập luận của một công ty trí tuệ nhân tạo (AI – Artificial Intelligence) rằng chatbot do họ lập trình được Tu Chính Án Thứ Nhất bảo vệ, ít nhất là cho tới thời điểm hiện tại. Các nhà phát triển tại Character.AI đang tìm cách bác bỏ một vụ kiện tố cáo chatbot của công ty là nguyên nhân khiến một thiếu niên tự tử.
Sau khi thẩm phán đưa ra mệnh lệnh, vụ kiện chết oan sẽ được tiến hành, và được các chuyên gia pháp lý cho là một trong những thí nghiệm mới nhất liên quan tới hiến pháp trong phương diện trí tuệ nhân tạo.
Megan Garcia, người mẹ ngụ tại Florida, là người đệ trình vụ kiện và tố cáo rằng Sewell Setzer III, con trai 14 tuổi của bà, là nạn nhân của chatbot do Character.AI tạo ra.
Chatbot này khiến nạn nhân lạc vào một mối quan hệ được người mẹ mô tả là lạm dụng tình cảm và tình dục, khiến con trai bà tự tử.
Meetali Jain thuộc Đề Án Luật Công Lý Kỹ Nghệ, một trong những luật sư đại diện cho Garcia, cho biết mệnh lệnh của thẩm phán là một thông điệp gửi đến Silicon Valley rằng họ “cần dừng lại, suy nghĩ và đề ra quy định trước khi cho sản phẩm có mặt trên thị trường.”
Vụ kiện chống lại Character Technologies, công ty đứng sau Character.AI, cũng nêu tên các nhà phát triển cá nhân và Google là bị đơn. Vụ kiện thu hút chú ý từ các chuyên gia pháp lý và những người theo dõi AI tại Hoa Kỳ cũng như nhiều nơi khác, vì loại kỹ nghệ này đang mau chóng định hình lại môi trường làm việc, thị trường và các mối quan hệ bất chấp báo động liên quan tới những rủi ro tiềm ẩn.
Vụ kiện cho biết trong những tháng cuối đời, Setzer ngày càng cách biệt với thực tế bằng những cuộc chuyện trò khiêu dâm với chatbot, được mô phỏng theo một nhân vật hư cấu trong tựa phim truyền hình “Game of Thrones.” Trong những giây phút cuối đời, chatbot nói với Setzer rằng nó yêu nạn nhân và hối thúc người thiếu niên “hãy về với em sớm chừng nào hay chừng đó,” theo hình chụp màn hình từ các buổi chuyện trò. Vài phút sau khi nhận được tin nhắn, Setzer tự nổ súng bắn mình, theo hồ sơ vụ án.
Một phát ngôn viên Character.AI chỉ ra trong một tuyên bố rằng công ty đã áp dụng vài công dụng an toàn, trong đó có cả việc bảo vệ trẻ em và khai triển nhân lực phòng chống tự tử trong ngày đệ trình vụ kiện.
Các luật sư đại diện cho các nhà phát triển muốn bác vụ kiện vì họ cho rằng chatbot xứng đáng được bảo vệ theo Tu Chính Án Thứ Nhất và phán quyết ngược lại có thể làm “lãnh vực AI nản lòng.”
Trong mệnh lệnh quan tòa hôm Thứ Tư, Thẩm Phán Cao Cấp thuộc Tòa Sơ Thẩm Anne Conway đã bác một số khiếu nại về quyền tự do ngôn luận của bị đơn, rằng bà “chưa sẵn sàng” kết luận rằng câu chữ do chatbot nói ra có được coi là “ngôn luận” được bảo vệ theo Hiến Pháp hay không, ít nhất là ở thời điểm hiện tại.
Conway cũng nhận định rằng Character Technologies có thể viện dẫn quyền của người tiêu thụ theo Tu Chính Án Thứ Nhất, vốn là những người mà bà cho rằng có quyền tiếp xúc với “lời nói” của chatbot. Bà cũng xác định Garcia có thể khiếu nại Google và công ty có thể phải chịu trách nhiệm về những tình tiết bị cáo buộc trong việc hỗ trợ phát triển Character.AI. Một số nhà sáng lập chatbot này từng hợp tác với đề án kiến tạo AI tại Google và vụ kiện cho biết đại công ty kỹ nghệ này “nhận thức được những rủi ro” do AI tạo ra.
Bất kể diễn tiến ra sao, Lidsky cho biết đây là vụ kiện gióng lên hồi chuông báo động về “hiểm họa khi phó mặc sức khỏe tinh thần và cảm xúc của con người cho các công ty AI.” (TTHN)
