Технология искусственного интеллекта (ИИ) продолжает развиваться, к лучшему или к худшему. ИИ может принести пользу людям, которые полагаются на автоматизацию рутинных и громоздких задач. Однако ИИ потенциально может быть использован для всё более сложных афер по телефону и через чат-ботов.
Разговорный ИИ — это использование приложений с целью обмена сообщениями, речевых помощников и чат-ботов для автоматизации общения, а также создания персонализированного обслуживания клиентов. Сотни миллионов людей ежедневно используют платформы обмена сообщениями в социальных сетях для общения со своими друзьями и семьёй.
Между тем, они также регулярно общаются с речевыми помощниками, такими как Alexa Amazon и Google Home. Разговорный ИИ открывает новые возможности для автоматизации повседневных задач. В результате обмен сообщениями и речевые программы быстро вытесняют традиционные веб- и мобильные приложения и становятся новыми платформами для интерактивных бесед.
Почти три четверти людей (73%) вряд ли доверят разговорному ИИ отвечать на простые звонки или электронные письма для них, но эксперты говорят, что эта нерешительность изменится, поскольку технологии станут более распространёнными, несмотря на риски для безопасности.
Разговорный ИИ может быть неточным или взломанным
Поскольку люди используют цифровые помощники и разговорные интерфейсы ИИ, которые позволяют вести диалог в реальном времени с машинами, необходимо учитывать несколько аспектов безопасности. Например, неточное распознавание речи может привести к отправке неверных сообщений не тем людям в вашем списке контактов. Это случилось с одной парой из Портленда, штат Орегон, в 2018 году, которая узнала, что их Алекса отправила записи своих разговоров коллеге мужа, несмотря на то, что они не просили ни записывать, ни отправлять сообщения.
Кроме того, хакеры могут взять на себя управление цифровыми помощниками. Это позволит хакеру подслушивать частные или конфиденциальные разговоры, что может привести к краже личных данных или мошенничеству.