Google-ի ալգորիթմը ծրագրավորողին սխալմամբ մեղադրել է որդու հանդեպ բռնություն գործադրելու մեջ

Այն բանից հետո, երբ հայրը լուսանկարել է իր փոքր որդու աճուկի հատվածում վարակը, Google-ի ալգորիթմը դրանք նշել է որպես սեռական բռնության պատկերներ եւ այդ մասին հաղորդել է երեխաների պաշտպանության հարցերով զբաղվող կազմակերպությանը: Ոստիկանական հետաքննությունը հանցակազմ չի հայտնաբերել, սակայն տուժած օգտատիրոջ հաշիվը դեռ չեն վերադարձրել։ Սան Ֆրանցիսկոյից ծրագրավորող Մարկի պատմությունը ներկայացրել է The New York Times-ը։

NYT-ում նկարագրված միջադեպը տեղի է ունեցել 2021 թվականի փետրվարին, երբ շատ բժիշկներ չէին ընդունում Covid-ի պատճառով։ Մարկը, իր որդու սեռական օրգանների շրջանում այտուց նկատելով, լուսանկարել է այն, որպեսզի տեսակապի ժամանակ ցույց տա բուժքրոջը: Բժիշկը վարակը բուժելու համար հակաբիոտիկներ է նշանակել, սակայն Մարկի ու նրա ընտանիքի խնդիրները դրանով չեն ավարտվել, փոխանցում է HighTech+-ը։

Երկու օր անց նա Google-ից ծանուցում է ստացել, որ իր հաշիվը արգելափակվել է «վնասակար բովանդակության» պատճառով, որը «լրջորեն խախտում է Google-ի քաղաքականությունը եւ կարող է խախտել օրենքը», գրում է Verge-ը։ Ինչպես շատ այլ ինտերնետային ընկերություններ՝ Facebook-ը, Twitter-ը կամ Reddit-ը, Google-ն օգտագործում է վերբեռնված պատկերները վերլուծելու գործիքներ եւ օրենքով պարտավոր է բոլոր կասկածելի դեպքերը հայտնել NCMEC-ին: 2021 թվականին Google-ը հայտնել է 621,583 դեպքի մասին, որից միայն 4260-ն է պոտենցիալ զոհերի, այդ թվում՝ Մարկի որդու մասին ծանուցելու հիմք ծառայել։

Արդյունքում հայրը զրկվել է իր փոստային հաշվի, կոնտակտային տեղեկատվության, լուսանկարների եւ նույնիսկ հեռախոսահամարի հասանելիությունից, քանի որ օգտվել է Google Fi բջջային ծառայությունից։ Մարկն անմիջապես բողոքարկել է, սակայն ընկերությունը մերժել է նրա դիմումը։

Միեւնույն ժամանակ Սան Ֆրանցիսկոյի ոստիկանությունը հետաքննություն է սկսել եւ ուսումնասիրել է բոլոր այն տեղեկությունները, որոնք Մարկը պահել է Google-ում։ Քննիչները եկել են այն եզրակացության, որ միջադեպը հանցակազմ չի պարունակում: Սակայն նույնիսկ դրանից հետո Google-ը Մարկին չի վերադարձրել նրա հաշիվը։ Ավելին, նա շուտով պարզել է, որ իր տվյալներն ամբողջությամբ ջնջվել են։ Իսկ փաստաբանի ծախսերի պատճառով Մարկը հրաժարվել է ՏՏ հսկային դատի տալու ցանկությունից:

Եվ սա միակ դեպքը չէ՝ հաջորդ օրը Տեխասի մեկ այլ ընտանիքի հետ է նման բան տեղի ունեցել։