Родитељско усмјеравање: 'умјетна интелигенција' која се користи за оцјењивање дадиља на основу њихове повијести друштвених медија
Када је Јессие Баттаглиа почела да тражи нову бејбиситерку за свог једногодишњег сина, хтела је више информација него што је могла добити од криминалне провере, коментара родитеља и интервјуа лицем у лице.
Зато се обратила Предицтиму, онлине сервису који користи "напредну вештачку интелигенцију" да процени личност бабиситтера и усмери своје скенере на хиљаде Фацебоок, Твиттер и Инстаграм постова.
Систем је понудио аутоматизовану "оцену ризика" 24-годишњег кандидата, тврдећи да је "веома ниско угрожена" као злостављач дроге. Међутим, она је дала нешто већу процјену ризика - два од пет - за злостављање, узнемиравање, "непоштовање" и "лош став".
Систем није објаснио зашто је донио такву одлуку. Али Баттаглиа, која је веровала да је чувар био поуздан, одједном је осјетила бол у сумњи.
"Друштвени медији показују карактер особе", каже 29-годишња Баттаглиа, која живи у близини Лос Ангелеса. "Па зашто је онда ушла у два, а не у једну?"
Предицтим нуди родитељима исту књигу игара коју десетине других технолошких фирми продаје послодавцима широм свијета: системе умјетне интелигенције који анализирају говор особе, изразе лица и повијест на интернету с обећањима да ће открити скривене аспекте свог приватног живота.
Технологија преобликује начин на који неке компаније приступају запошљавању, запошљавању и ревизији радника, нудећи послодавцима ненадмашан поглед на кандидате за посао кроз нови вал инвазивне психолошке процјене и надзора.
Технолошка фирма Фама каже да користи АИ у друштвеним медијима полицијских радника за "токсично понашање" и упозорава своје шефове. А фирма ХиреВуе за запошљавање, која ради са компанијама као што су Геицо, Хилтон и Унилевер, нуди систем који аутоматски анализира тон, избор ријечи и покрет лица током видео интервјуа како би предвидио њихову вјештину и понашање на послу. (Кандидати се охрабрују да се насмеју за најбоље резултате.)
Међутим, критичари кажу да Предицтим и слични системи представљају своје сопствене опасности тако што практично не контролишу одлуке о аутоматизацији и евентуално мењању живота.
Системи зависе од алгоритама црне кутије који дају мало детаља о томе како су смањили сложеност унутрашњег живота особе у прорачуне врлине или штете. Чак и пошто Предицтимова технологија утиче на размишљање родитеља, она остаје потпуно недоказана, углавном необјашњива и подложна тихим предрасудама о томе како би одговарајућа бебиситерка требала дијелити, гледати и говорити.
Ту је "луда журба да се искористи моћ АИ-а за доношење свих врста одлука без осигурања да она буде одговорна према људским бићима", рекао је Јефф Цхестер, извршни директор Центра за дигиталну демократију, тецх-заговарачке групе. "То је као да су људи пили дигиталну Коол-Аид и мисле да је ово прикладан начин управљања нашим животима."
Предицтимови скенови анализирају целу историју друштвених медија дадиље, који, за многе најмлађе, могу покрити већину њихових живота. А онима који кажу да ће бити у великој неповољности за конкурентне послове ако одбије.
Предицтимов шеф и суоснивач Сал Парса изјавио је да је компанија, лансирана прошлог мјесеца као дио Универзитета Калифорније у Беркелеијевом технолошком инкубатору СкиДецк, озбиљно схвата етичка питања о својој употреби технологије. Родитељи, рекао је он, требали би видјети оцјене као пратиоца који "може или не мора одражавати стварне атрибуте чувара".
Међутим, опасност да се запосли проблематична или насилна бебиситерка, додао је, чини АИ неопходним алатом за сваког родитеља који се нада да ће његово дијете бити сигурно.
"Ако трагате за насилним бабиситтерима на Гоогле-у, видећете стотине резултата управо сада", рекао је он. "Тамо постоје људи који или имају менталну болест или су само рођени зли. Наш циљ је да учинимо све што можемо да их зауставимо."
Предицтим скенирање почиње од 24, 99 долара и захтева име и адресу е-поште дадиље и њен пристанак за дељење широког приступа рачунима друштвених медија. Бабиситтер може одбити, али родитељ је обавештен о њеном одбијању, а у е-маилу се чува бебиситер: "заинтересовани родитељ неће моћи да вас запосли док не попуните овај захтев."
Предицтимови руководиоци кажу да користе алгоритме за обраду језика и софтвер за препознавање слика, познатији као "компјутерска визија", како би проценили Фацебоок, Твиттер и Инстаграм постове чувара деце за трагове о њиховом животу ван мреже. Родитељу се извјештај доставља искључиво и не мора рећи ситтеру о резултатима.
Родитељи би, претпостављам, могли сами да погледају јавне рачуне друштвених медија својих ситерки. Међутим, компјутерски генерисани извештаји обећавају дубинску контролу година онлине активности, своди се на једну цифру: интоксикантно једноставно решење за непрактичан задатак.
Оцјене ризика су подијељене у неколико категорија, укључујући експлицитни садржај и злоупотребу дрога. Старт-уп је такође објавио да његов систем може да процени бабиситтерс о другим особинама личности, као што су љубазност, способност за рад с другима и "позитивност".
Компанија се нада да ће надоградити мултибилионску "родитељску" оутсоурцинг индустрију и почела је оглашавати путем плаћених спонзорстава родитељских и "мумијских" блогова. Компанијски маркетинг фокусира се на његову способност да открије скривене тајне и спријечи "ноћну мору сваког родитеља", наводећи криминалне случајеве, укључујући ону од Кентуцки бабиситтера који је оптужен раније ове године са озбиљним повредама осмомјесечне дјевојчице.
"Да су родитељи мале девојчице повређене од стране ове бејбиситерке били у могућности да користе Предицтим као део њиховог процеса провере, " каже се у документу компаније, "они је никада не би оставили на миру са својим драгим дететом."
Међутим, технички стручњаци кажу да систем подиже властите заставе, укључујући и забринутост да се плаши страха родитеља да продају скенирање личности нетестиране тачности.
Они се такође питају како се системи обучавају и колико су рањиви да би могли да погрешно схвате замагљена значења друштвених медија корисника. За све осим скенирања са највећим ризиком, родитељима се даје само сугестија упитног понашања и нема посебних фраза, веза или детаља које би сами процијенили.
Када је скенирање једне бејбиситерке означено за могуће насилничко понашање, немирна мајка која је то тражила рекла је да не може рећи да ли је софтвер примијетио стари филмски цитат, текстуалну пјесму или неку другу фразу, насупрот језику насиља.
Међутим, Предицтим ипак каже да се спрема за експанзију широм земље. Руководиоци Ситтерцити-а, онлине берзе дадиља коју су посјетили милијуни родитеља, кажу да ће покренути пилот програм почетком наредне године, који ће се смањити у Предицтимовом аутоматизованом рејтингу на тренутни распоред пројекција и провјера.
"Проналажење ситерке може доћи с много неизвјесности", каже Сандра Даинора, шефица Ситтерцити, која вјерује да би алати попут ових ускоро могли постати "стандардна валута" за проналажење скрбника онлине. "Родитељи увијек траже најбоље рјешење, највише истраживања, најбоље чињенице."
Тхе Васхингтон Пост