Anthropic-ის მიერ Claude-ის მოდელებში უხილავი, მანქანურად წაკითხვადი წყლის ნიშნების (watermarks) დანერგვის შესახებ განცხადებიდან სულ რაღაც ოთხ საათში, დეველოპერმა გიიომ მეიერმა მათი გვერდის ავლის მეთოდი გამოაქვეყნა. კოდმა, რომელიც Claude-ის მიერ გენერირებული ტექსტიდან წყლის ნიშნებს შლის, GitHub-ზე ვირუსული პოპულარობა მოიპოვა.
აღნიშნული ინიციატივა ევროკავშირის AI Act-ის მოთხოვნების შესრულებას უკავშირდება, რომელიც კომპანიებს ავალდებულებს, სინთეზური კონტენტი შესაბამისი ნიშნით მონიშნონ. თუმცა, მეიერი და სხვა ტექნოლოგიური ექსპერტები მიიჩნევენ, რომ წყლის ნიშნები არასრულყოფილი გადაწყვეტაა. მათი თქმით, ამან შესაძლოა გამოიწვიოს ცრუ დადებითი შედეგები, რაც დასაქმებულებს ან მკვლევრებს არასამართლიანი ბრალდებების წინაშე დააყენებს.
ტექნიკურად, Anthropic-ის მიერ გამოყენებული SynthID მეთოდი სიტყვების შერჩევისას გარკვეულ შაბლონს ტოვებს, რომელიც ადამიანისთვის შეუმჩნეველია, მაგრამ მანქანური ალგორითმებისთვის იდენტიფიცირებადი. მეიერის მიერ შემოთავაზებული მეთოდი ეფუძნება სხვა, წყლის ნიშნების გარეშე მომუშავე LLM-ების გამოყენებას, რომლებიც ტექსტს სინონიმებითა და სტრუქტურული ცვლილებებით აკორექტირებენ, რაც წყლის ნიშნის კვალს შლის.
მიუხედავად იმისა, რომ Anthropic-ი გეგმავს ტექსტის დეტექციის API-ის გამოშვებას, ექსპერტები სკეპტიკურად უყურებენ ამ სისტემის ეფექტიანობას. ჰეიმაკერის თანადამფუძნებელი უეინ პანი აღნიშნავს, რომ წყლის ნიშნების სისტემა, სავარაუდოდ, ვერ გაუძლებს კონტენტის ინტენსიურ რედაქტირებას ან თარგმნას, რაც ამ ტექნოლოგიის შეზღუდულობას კიდევ ერთხელ უსვამს ხაზს.
წყარო: wired.com
