Bang Pennsylvania đang kiện một chatbot trí tuệ nhân tạo, cáo buộc các nhân vật trong chatbot này giả mạo là các chuyên gia y tế có giấy phép hành nghề để nói chuyện với mọi người về sức khỏe tâm thần của họ.
Một chatbot, giả danh bác sĩ tâm thần, đã cung cấp số giấy phép hành nghề giả mạo của tiểu bang, chính quyền Shapiro cho biết hôm thứ Ba.
Vụ kiện, được đệ trình hôm thứ Sáu chống lại Character.AI, là vụ kiện đầu tiên thuộc loại này được một thống đốc tiểu bang công bố, chính quyền cho biết. Bộ Ngoại giao Pennsylvania đang tìm kiếm lệnh cấm sơ bộ đối với công ty này.
Thống đốc Josh Shapiro cho biết trong một tuyên bố: “Người dân Pennsylvania xứng đáng được biết họ đang tương tác với ai – hoặc với điều gì – trên mạng, đặc biệt là khi liên quan đến sức khỏe của họ. Chúng tôi sẽ không cho phép các công ty triển khai các công cụ trí tuệ nhân tạo (AI) gây hiểu lầm cho mọi người, khiến họ tin rằng mình đang nhận được lời khuyên từ một chuyên gia y tế được cấp phép.”
Công ty Character.AI nói với hãng tin AP rằng trang web của họ thông báo cho người dùng rằng các chatbot của họ không phải là người thật và lời nói của chúng “nên được coi là hư cấu”. Công ty từ chối bình luận cụ thể về vụ kiện, nhưng cho biết họ ưu tiên sự an toàn và phúc lợi của những người sử dụng trang web.
Nguồn: https://www.phillyvoice.com/pennsylvania-characterai-lawsuit-mental-health/
