ბრისტოლის „Think Family Database“ ნახევარ მილიონამდე ადამიანის მონაცემებს ინახავს. 2016 წელს დაარსებული ეს ბაზა აერთიანებს პოლიციის სადაზვერვო ანგარიშებს, საცხოვრებელ სტატუსს, ფსიქიკური ჯანმრთელობის ჩანაწერებსა და სოციალურ ინფორმაციას. ამ მონაცემებზე დაყრდნობით, ხელისუფლებამ შექმნა machine-learning მოდელები, რომლებიც მოქალაქეებს „რისკის ქულებს“ ანიჭებენ.
Avon and Somerset-ის პოლიციამ შექმნა სულ მცირე 23 ალგორითმი, რომლებიც პროგნოზირებენ ქურდობის, სასამართლოში გამოუცხადებლობის ან ოჯახური ძალადობის მსხვერპლად გახდომის ალბათობას. თუმცა, პროექტის გამჭვირვალობა კითხვის ნიშნის ქვეშ დგას. ადგილობრივი აქტივისტები, მათ შორის ჯონ პეგრამი, წლების განმავლობაში ვერ იღებდნენ ინფორმაციას იმის შესახებ, თუ როგორ გამოიყენებოდა მათი პერსონალური მონაცემები.
WIRED-ის მიერ ჩატარებულმა გამოძიებამ აჩვენა, რომ რისკის შეფასების მოდელები ხშირად არაზუსტია. დამოუკიდებელმა ექსპერტებმა მონაცემებში „დაბალი პროგნოზირებადი ეფექტურობა“ აღმოაჩინეს. შედეგად, ბრისტოლის საქალაქო საბჭომ ზოგიერთი ალგორითმის გამოყენება შეწყვიტა, რადგან თანამშრომლებმა მათ ნდობა დაკარგეს. ერთ-ერთმა სოციალურმა მუშაკმა აღნიშნა, რომ სისტემა ხშირად ვერ აიდენტიფიცირებს რეალურად დაუცველ ბავშვებს, რადგან ალგორითმები არასწორად არის აწყობილი.
მიუხედავად ამისა, დიდი ბრიტანეთის მასშტაბით პოლიცია კვლავ ცდილობს AI-ის დანერგვას. College of Policing-ის ხელმძღვანელი ენდი მარში აცხადებს, რომ ეფექტური AI ინსტრუმენტები პოლიციაში „ჰეროინივით უნდა შევიყვანოთ“, რათა მუშაობა დაჩქარდეს. თუმცა, ექსპერტები აფრთხილებენ, რომ კანონიერება არ ნიშნავს ლეგიტიმურობას და მონაცემთა ბრმა ანალიზმა შესაძლოა საზოგადოებრივი ნდობა სრულად გაანადგუროს.
წყარო: wired.com
