Голосовой помощник Олег от «Тинькофф банка» предложил клиентке отрезать пальцы.

Компания объяснила, что он ещё учится
Бот снова грубит из-за обучения на открытых данных: раньше уже было «пососите потом просите».

Клиентка «Тинькофф банка» Анна Васильева пожаловалась в соцсетях на голосового помощника «Олега», встроенного в приложение банка. Девушка рассказала, что сообщила поддержке о проблеме со входом по отпечатку пальца, на что получила ответ от чат-бота: «Пальцы бы вам отрезать».

Представители «Тинькофф» ответили на пост Васильевой, извинившись перед ней: «Голосовой помощник у нас немного с характером и учится на открытых данных. Иногда такое проскакивает. Безусловно, не хотели причинять неудобств». Также сотрудники банка сослались на «своеобразный юмор» «Олега» и в шутку пообещали провести с ним беседу.

Олег ещё молодой голосовой помощник. Мы стараемся уберечь его от дурного влияния окружающего мира, но не всегда это получается. Мы провели разъяснительную работу с голосовым помощником, ему очень стыдно за свой ответ, он обещал так больше не делать

.«Тинькофф банк» в комментарии для РБК

Это не первый раз, когда «Олега» ловят на грубости пользователям. Голосового помощника запустили в июне, и он сразу же начал отвечать клиентам фразами вроде «пососите потом просите». Тогда представители компании тоже объяснили поведение бота обучением на открытых данных.

Это общая проблема для чат-ботов на основе нейросетей, которые обучаются на постах в соцсетях или форумах. Дважды с этим сталкивался Microsoft: в 2016 году твиттер-бот компании по имени Тау научился расистским высказываниям за сутки. В 2017 году чат-бот Zo обошёл цензурные фильтры и стал высказываться на темы религии и терроризма.

Источник:https://tjournal.ru/

Комментарии закрыты.