"Убий родителите си!", съветва гласов асистент

Amazon разширява възможностите на Alexa да води разговор

iconomist
iconomist / 22 December 2018 11:47 >
"Убий родителите си!", съветва гласов асистент
Смартколонка Amazon Echo Dot
Източник: Shutterstock
Милиони потребители на смартколонките Echo на компанията Amazon са свикнали с успокояващия тон на Alexа, гласовият виртуален асистент който може да каже прогнозата за времето, да направи поръчка на стока или да извърши други основни задачи с гласова команда, пише Ройтерс.

Но миналата година потребител е бил шокиран, когато Alexa изтърсила: "Убий доведените си родители".

Аlexa е разговаряла с потребители на сексуална тема, също така е обсъждала изхождането на кучета. А това лято хакерски пробив, който Amazon проследява до Китай, е разкрил лични данни за някои потребители.

Alexa не е в нервна криза. Случаите, които преди това не са били докладвани, произлизат от стратегията на Amazon.com да направи Alexa по-добър комуникатор. С помощта на нови изследвания гласовият асистент получава възможност да наподобява човешкото мислене и да говори почти за всичко, за което може да се открие информация в интернет. Но проблемът е как в процеса да не засегне потребителите.

Пазарът за устройства с гласови помощници расте. Смята се, че около две трети от 43-те млн. потребители на смартколонки в САЩ използват устойствата Echo. Това е позиция, която Amazon иска да задържи пред конкуренцията на Google Home на Alphabet и HomePod на Apple.

През годините Amazon се опитва да даде възможност на Alexa Да извършва по-сложни задачи, свързани със сигурността на жилището, пазаруването или общуването.

През 2016 г. компанията стартира годишната награда Alexa Prize, за която разработчици-студенти трябва да подобрят уменията на гласовия асистент да води разговор. Екипите се състезават за първата награда от $500 000, създавайки компютърни системи - т.нар. чатботове, които могат да извършват по-сложни разговори с хората.

Потребителите могат да участват в проекта с командата "let's chat" до техните устройства. Тогава Alexa ще ги информира, че някой от ботовете ще поеме щафетата, измествайки стандартния асистент. Само от август до ноември трите чатбота, които стигнаха до тазгодишния финал на състезанието, са провели над 1,7 млн. разговора, казват от Amazon. Проектът е под прекия контрол на боса на Amazon Джеф Бейзос.

Експериментът вече дава резултат, защото университетските екипи помагат на Alexa да разширява кръгозора си. А и тази година потребителите са дали по-висока оценка на ботовете, отколкото през м.г.

Но гафовете на Alexa са отчуждили някои потребители, като в един от случаите Джеф Бейзос е наредил спирането на на бот след случай, в който той е дал съвет на един от тях да убие своите доведени родители. Разследване на инцидента е открило, че ботът е цитирал пост извън контекста, взет от сайта Reddit, казват запознати.

Намесата в личното пространство е още по-объркваща. Потребителите не осъзнават, че някои от най-интимните им разговори се записват от устройствата, информация, която може да е ценна за престъпници, правителствени служители или маркетолози.

През юли Amazon откри, че един от ботовете е бил хакнат от китайски източник, което е довело до изтичане на гласови записи, макар и без лични данни на потребителите.

Alexa разчита на т.нар. машинно учене, най-известната форма на изкуствен интелект. При него компютърни програми анализират човешката реч и дават отговори на базата на очаквания, свързани с това, какво им е било отговаряно преди.

Тазгодишният призьор на наградата, екип от 12 души от Калифорнийския университет в Дейвис, е използвал над 300 000 реплики от филми, за да тренира компютърни модели да разпознават цели изречения.

Голямото предизвикателство пред социалните ботове е как да отговарят подходящо на насреща стоящите хора. През повечето време екипите са направили така, че ботовете да търсят материял в интернет. Те могат да изследват статии от "Вашингтон пост", вестникът, който Бейзос притежава, да ровят в Уикипедия, в база с данни за филми или да търсят в постове в социалните медии.

Но социалните медии се оказват проблем. През тазгодишното състезание екипът от шотландския университет "Хериът-Уот" открил, че Alexa става цинична, когато използва коментарии от Reddit, чиито членове са известни с тролинг и обиди.

Екипът поставил граници, така че ботът да странии от чувствителнии теми. Но това не попречило на Alexa да цитира данни, свъзани със сексуални техники. От Amazon са предоставили на екипите инструменти, които да филтрират разговорите и да отбелязват и най-малките отклонения от нормата. Софтуерът сканира разговорите и спира действието на на ботове, когато навлязат в конфликтни, обидни или сексуални теми.

Но не всичко може да се планира предварително, защото деликатните теми се променят с времето. И все пак има прогрес.
Exit