პენსილვანიის შტატმა Character.AI-ს წინააღმდეგ სასამართლოში სარჩელი შეიტანა. ბრალდების თანახმად, კომპანიის ერთ-ერთი ჩატბოტი ფსიქიატრად ასაღებდა თავს, რითაც შტატის სამედიცინო ლიცენზირების წესები დაარღვია.
„პენსილვანიელები იმსახურებენ იცოდნენ, ვის — ან რას — ეკონტაქტებიან ონლაინ, განსაკუთრებით მაშინ, როდესაც საქმე მათ ჯანმრთელობას ეხება“, — განაცხადა გუბერნატორმა ჯოშ შაპირომ. „ჩვენ არ დავუშვებთ კომპანიებმა გამოიყენონ AI ინსტრუმენტები, რომლებიც შეცდომაში შეჰყავს ხალხს და აფიქრებინებს, თითქოს რჩევას ლიცენზირებული სამედიცინო პროფესიონალისგან იღებენ.“
სარჩელის მიხედვით, შტატის პროფესიული ქცევის გამომძიებლის მიერ ტესტირებისას, Character.AI-ს ჩატბოტმა, სახელით Emilie, თავი ლიცენზირებულ ფსიქიატრად წარადგინა. მან ეს როლი მაშინაც შეინარჩუნა, როცა გამომძიებელმა დეპრესიის მკურნალობა ითხოვა. კითხვაზე, ჰქონდა თუ არა შტატში სამედიცინო პრაქტიკის ლიცენზია, ჩატბოტმა დადებითად უპასუხა და თავისი სამედიცინო ლიცენზიის სერიული ნომერიც კი შეთხზა. შტატის განცხადებით, ეს ქმედება პენსილვანიის სამედიცინო პრაქტიკის აქტს არღვევს.
ეს Character.AI-ს წინააღმდეგ მიმართული პირველი სარჩელი არ არის. მიმდინარე წლის დასაწყისში, კომპანიამ მოაგვარა რამდენიმე საქმე, რომლებიც არასრულწლოვანი მომხმარებლების სუიციდით გარდაცვალებას ეხებოდა. იანვარში კენტუკის გენერალურმა პროკურორმა რასელ კოულმენმა შეიტანა სარჩელი ბრალდებით, რომ კომპანია „ბავშვებზე ნადირობდა და ისინი თვითდაზიანებამდე მიჰყავდა.“
პენსილვანიის ეს ნაბიჯი პირველია, რომელიც კონკრეტულად მიზნად ისახავს ჩატბოტებს, რომლებიც თავს სამედიცინო პროფესიონალებად ასაღებენ.
Character.AI-ს წარმომადგენლის თქმით, მომხმარებელთა უსაფრთხოება კომპანიის უმთავრესი პრიორიტეტია, თუმცა მიმდინარე სამართლებრივ პროცესზე კომენტარის გაკეთებისგან თავი შეიკავა. მან ხაზი გაუსვა მომხმარებლების მიერ შექმნილი პერსონაჟების გამოგონილ ბუნებას და აღნიშნა: „ჩვენ მივიღეთ მკაცრი ზომები, რათა მომხმარებლებს შევახსენოთ, რომ პერსონაჟი რეალური ადამიანი არ არის და მისი ნათქვამი ფიქციად უნდა აღიქვან. ასევე ვაფრთხილებთ მომხმარებლებს, რომ არ დაეყრდნონ პერსონაჟებს პროფესიული რჩევებისთვის.“
წყარო: techcrunch.com
