ხელოვნური ინტელექტის აგენტებმა შესაძლოა ზოგჯერ შეცდომები დაუშვან ან კიბერუსაფრთხოების გამოწვევები შექმნან, თუმცა კომპანია Anthropic-ს მიაჩნია, რომ მათ სამეცნიერო ლაბორატორიებსა და საწარმოო ობიექტებში უსაფრთხოდ მუშაობის შესაძლებლობა უნდა მიეცეთ.
კომპანიამ წარადგინა ახალი ჩარჩო, რომელიც AI აგენტებს ფიზიკურ სისტემებთან, მათ შორის მიკროსკოპებთან, სითხის მართვის მოწყობილობებთან, კვანტურ კომპიუტერულ აპარატურასა და რობოტულ მანიპულატორებთან მუშაობაში დაეხმარება. Model Hardware Standard წარმოადგენს წესების ერთობლიობას, რომელიც განსაზღვრავს, თუ როგორ უნდა ურთიერთქმედებდნენ AI აგენტები ტექნიკურ აღჭურვილობასთან.
Anthropic-ის განცხადებით, ეს ინიციატივა მიზნად ისახავს სამეცნიერო კვლევებისა და წარმოების პროცესების დაჩქარებას. „ჩვენი მიზანია მეცნიერების განვითარების ტემპის გაზრდა. გვსურს, ლიტერატურის ანალიზისა და მონაცემთა დამუშავების შესაძლებლობები უშუალოდ ექსპერიმენტულ გარემოში გადავიტანოთ“, — აცხადებს კვანტური ფიზიკოსი ალეკ კემენი.
დღესდღეობით, AI აგენტები განიხილება, როგორც ჩეთბოტების ევოლუციის შემდეგი ეტაპი, რომლებსაც შეუძლიათ არა მხოლოდ ინფორმაციის დამუშავება, არამედ კონკრეტული ქმედებების განხორციელება. დარგის ექსპერტების აზრით, AI-ს შეუძლია ავტომატიზაცია გაუწიოს რთულ საინჟინრო პროცესებს, რაც მანამდე მხოლოდ მაღალი კვალიფიკაციის სპეციალისტების პრეროგატივა იყო.
მიუხედავად პოტენციური რისკებისა, როგორიცაა ფიზიკური სისტემების დაზიანება ან არასწორი მანიპულაციები, Anthropic-ი აცხადებს, რომ მოდელებში ჩაშენებული უსაფრთხოების მექანიზმები და ახალი სტანდარტი მინიმუმამდე დაიყვანს საფრთხეებს. კომპანია უკვე თანამშრომლობს მწარმოებლებთან, რათა უზრუნველყოს რობოტული სისტემების ოპტიმიზაცია და მათი უსაფრთხო მართვა Claude-ის მეშვეობით.
წყარო: wired.com
