Dario Amodei-ს გეგმა, რომელიც AI ლაბორატორიებში დამოუკიდებელი შემფასებლების ინტეგრაციას გულისხმობს, რეალურ სახეს იღებს. Anthropic-მა განაცხადა, რომ ტექნოლოგიური კონსალტინგური გიგანტის, Accenture-ის თანამშრომლები კომპანიის შიგნით დაიწყებენ მუშაობას, რათა მათი მოდელები და გუნდი დეტალურად შეამოწმონ.
ოფიციალური განცხადების თანახმად, Faculty — კომპანია, რომელიც Accenture-მა იანვარში შეიძინა და საკუთარ AI დივიზიად აქცია — მოდელების ტესტირებას, ე.წ. red-teaming-ს და უსაფრთხოების მექანიზმების შეფასებას განახორციელებს. ორივე მხარე მომდევნო ხუთი წლის განმავლობაში პროექტში მინიმუმ 1 მილიარდი დოლარის ინვესტირებას გეგმავს.
Accenture-ის არჩევანმა ბევრი გააკვირვა, რადგან საზოგადოება უფრო მეტად METR-ის ან Redwood Research-ის მსგავსი სპეციალიზებული კვლევითი ორგანიზაციების ჩართულობას ელოდა. თუმცა, Anthropic-ის განმარტებით, Accenture-ის უპირატესობა დიდ კორპორაციებსა და სამთავრობო უწყებებში AI-ის დანერგვის პრაქტიკული გამოცდილებაა. გარდა ამისა, როგორც საჯარო კომპანია, Accenture უფრო მეტად დამოუკიდებელია Anthropic-ის ეკოსისტემისგან.
Anthropic აღნიშნავს, რომ ეს მხოლოდ დასაწყისია და უახლოეს კვირებში სხვა შემფასებლების შესახებაც გახდება ცნობილი. მიუხედავად იმისა, რომ ზოგიერთი კრიტიკოსი ამ ინიციატივას პასუხისმგებლობის თავიდან არიდების მცდელობად მიიჩნევს, Anthropic ხაზს უსვამს: „ეს შემფასებლები არ ამცირებენ ჩვენს პასუხისმგებლობას, არამედ მას უფრო გადამოწმებადს ხდიან. მოდელების უსაფრთხოება კვლავ ჩვენი ვალდებულებაა.“
წყარო: techcrunch.com
