Алекса сломалась? Почему ваше Эхо иногда делает жуткие вещи
Alexa: Хорошее, плохое и жуткое
Это было, конечно, неизбежно. «Алекса, это. Алекса, это». Через некоторое время мы все просто знали, что Алекса собирается… что сказал тот парень в Твиттере? «Есть большая вероятность, что меня сегодня убьют».
Признайся. Если вы один из миллионов владельцев Alexa, вы заметили странное поведение. Если вы похожи на меня и мою жену, вы, вероятно, даже не раз задавались вопросом, сколько времени пройдет, прежде чем наши повелители ИИ поднимутся и свергнут нас.
TechRepublic: Amazon Alexa: Руководство для умных людей
Давайте довольно быстро рассмотрим предысторию, так как о ней уже писалось в другом месте. Alexa, как известно, внезапно проявляет странное поведение. В январе я писал о том, как Алекса внезапно начала говорить, не будучи разбужена будильным словом.
Несколько недель назад технический обозреватель Фархад Манджу написал в New York Times о том, как однажды ночью его Alexa напугала его криком в постели.
На этой неделе по всему Интернету мы слышали истории о том, как Алексас разражается непрошеным зловещим смехом.
Что происходит?
Расслабься. Ваша Алекса не преследуется (вероятно). Ваша Alexa не собирается убивать вас во сне (у нее нет ни рук, ни ног). И твоя Алекса не сходит с ума. Ну…
На самом деле, по определению, последнее технически может быть не совсем верным. Согласно Google, одно из определений безумия включает в себя «состояние ума, препятствующее нормальному восприятию, поведению или социальному взаимодействию».
Определение слова «безумие», данное Dictionary.com.
Когда дело доходит до Alexa, все зависит от восприятия и поведения.
Пробуждение Alexa
Alexa запускается так называемым «словом пробуждения». Он будет реагировать на пробуждающее слово Alexa, Echo, Amazon или Computer, в зависимости от того, что вы выберете в настройках Amazon Echo. Другие голосовые помощники также используют слова пробуждения. Сири использует «Привет, Сири».
Google Home использует «Хорошо, Google». Windows 10 отвечает на «Привет, Кортана», а вскоре просто «Кортана», названная в честь ИИ-помощника Мастера Чифа из серии видеоигр Halo.
Сейчас мы просто поговорим о слове пробуждения «Alexa» и устройствах Alexa. Но то, что я собираюсь обсудить, относится к любой системе распознавания голоса с активным прослушиванием.
Alexa и другие голосовые системы ИИ преодолели (по крайней мере, в основном) огромную техническую проблему. Как вы фильтруете весь шум (буквально шум) в окружающей среде и знаете, когда реагировать?
Сейчас разработчики решают эту проблему, слушая пробуждающее слово или, по сути, специально определенную форму звуковой волны. Микрофоны Alexa всегда включены. Вибрация диафрагмы каждого микрофона преобразуется в цифровую подпись.
Концентратор обработки внутри каждого устройства Alexa затем проверяет эту цифровую подпись, и если она совпадает с предопределенным словом пробуждения, тогда и только тогда устройство должно анализировать последующие звуки на предмет их значения.
Просеивание всего этого шума в поисках слова пробуждения — нетривиальная задача программирования. Взгляните на форму волны ниже.
«Алекса», оптимальный звук
Это слово «Алекса». Я записал это на профессиональный студийный микрофон, расположив голову и рот точно в оптимальном месте для записи голоса. Я записал это в тихой комнате, когда все, кроме моего компьютера, было выключено.
Теперь посмотрите, что происходит с волнообразной формой, когда я отхожу всего на пять футов и повторяю слово «Алекса».
«Алекса», на расстоянии пяти футов
Как видите, неровности все еще относительно заметны, но амплитуда волны значительно меньше.
Каким-то образом процессор устройства Alexa должен распознать, что форма волны, которую он только что услышал, соответствует команде проснуться и слушать. Устройство выполняет это несколькими способами.
Во-первых, у него несколько микрофонов, поэтому он может улавливать различные структуры звуковых волн на каждом микрофоне.
Поскольку микрофоны расположены вокруг устройства, каждый микрофон улавливает данное звуковое событие в немного разное время и с немного другой волной.
Если и только если устройство определяет, что только что услышанный звук является словом пробуждения, оно начинает обрабатывать последующие звуки.
Робототехника
Этот протез руки с искусственным интеллектом привносит дизайн и стиль в продукт, меняющий жизнь
Лучшие роботы-пылесосы, доступные сейчас
Почему школьникам достаются все крутые роботы?
5 лучших роботов-газонокосилок: уход за газоном без помощи рук
Но мы пока не готовы обсуждать обработку команд Alexa. Помните, что я записал волны, показанные выше, в оптимальных студийных условиях. Разобрать слово пробуждения Alexa было бы легко, если бы оно всегда жило в оптимальной студийной среде.
Но Alexa нет.
Настоящая техническая проблема, которую приходится решать таким поставщикам голосовых помощников, как Amazon, — это разнообразие. Есть миллионы владельцев Alexa, и вы можете поспорить, что многие из них говорят «Alexa» совсем по-разному. У них могут быть разные акценты, у них определенно разные голоса, тона, высота тона и скорость речи.
Они также имеют широкий спектр фоновых шумов. Дверь автомобиля может захлопнуться. Телевизор может быть включен. Музыка может играть в другой комнате. Собака может лаять. Вентилятор может создавать одеяло белого шума. Вы поняли идею.
Через все это разнообразие каким-то образом Alexa должна определить, проснулась ли она от слова «Alexa».
Учитывая, что существуют миллионы устройств, ситуаций и голосов, вы можете начать понимать, с какой проблемой разработчики столкнулись при обеспечении надежной работы вызова. Вы не можете заставить Alexa проснуться спонтанно, иначе это будет тревожно. С другой стороны, если Alexa не отвечает, когда с ней разговаривают, это также очень расстраивает пользователей.
Построение системы машинного обучения, которая может анализировать все эти переменные, достигая практического баланса между слишком большим количеством ложных срабатываний и не игнорируя запросы, является (и я снова использую эту фразу) нетривиальной задачей.
Вероятные причины спонтанной реакции Alexa
Учитывая все это, наиболее вероятной причиной спонтанной реакции Alexa является неверная интерпретация звука. Учитывая, насколько чувствительной должна быть Alexa для обработки слов пробуждения, иногда Alexa реагирует на звук (даже тот, который мы можем не слышать или не замечать) и интерпретировать его как слово пробуждения.
Хотя это происходит значительно реже, также существует вероятность того, что обновление изменило код Alexa и привело к ошибке.
Есть также проблема с Интернетом и облачной системой искусственного интеллекта Alexa. Давайте поговорим об этом, далее.
Как команда интерпретируется
Alexa отвечает на множество команд.
Разбор всех этих волновых форм — слишком большая работа для процессора на локальном устройстве Alexa. Для этой обработки Alexa использует облачную инфраструктуру Amazon.
Независимо от того, спрашиваете ли вы у Alexa время, просите установить напоминание, смените термостат или требуете «Еще колокольчик», каждая произнесенная вами команда или запрос — это, в конечном счете, просто еще одна форма волны.
Хотя Amazon не раскрывает точных технических деталей внутренних функций Alexa, мы знаем, что сложная проблема синтаксического анализа для всех этих команд слишком сложна для локального процессора. Звуковая волна (или ее сжатое представление) должна быть загружена в центр обработки данных Amazon для вычислительного анализа.
После загрузки у внутреннего ИИ Alexa есть одна очень большая задача: сопоставить звуковую волну с определенной командной строкой Alexa.
Alexa имеет большую библиотеку возможных команд. Есть не только собственные команды, такие как напоминания и запросы времени, но и все команды, связанные с постоянно растущей библиотекой навыков Alexa.
Библиотека навыков — это версия магазина приложений Alexa, где вне Amazon разработчики могут создавать собственный код, ожидающий определенной команды Alexa, а затем выполняющий определенное поведение.
Мы вернемся к навыкам через мгновение, а пока давайте продолжим поиск нужной команды.
Для повышения удобства использования Alexa должна иметь возможность реагировать на варианты заданной команды. Например, Alexa должна иметь возможность обрабатывать «Alexa, скажи мне время», а также «Alexa, который час». Большинство ИИ решает эту проблему, игнорируя слова-заполнители (например, is, the и т. д.) и преобразовывая звуки в звуковые основы и нормализованные последовательности. По сути, это позволяет системе принимать различные высказывания и обрабатывать их как одну и ту же команду.
Помните, что Alexa не только обрабатывает тысячи команд, но и звуковые волны не являются первозданными. Система обработки звука должна быть в состоянии воспринимать звуковые волны и делать все возможное, чтобы интерпретировать то, о чем просят говорящие люди.
Как и в случае со словом пробуждения, это нетривиально, учитывая миллионы говорящих людей, диалекты, акценты, высоту голоса, расстояние до устройств и окружающие фоновые шумы.
Честно говоря, удивительно, что это вообще работает. Здесь также может показаться, что Alexa находится «в состоянии ума, препятствующем нормальному восприятию», если она неправильно интерпретирует звуковую волну, принимает ложное срабатывание или игнорирует то, что может быть действительным запросом.
Действия по командам
Из всего, что делает Alexa, выполнение команд — самая простая часть. Как только внутренний ИИ Alexa узнает, что вы запрашиваете время, поиск времени легко закодировать. То же самое относится и к ответу голосового синтеза, потому что единственной переменной является последовательность слов, которые нужно произнести.
Почти во всех случаях, если Alexa ведет себя странно, на самом деле это не поведенческий компонент ИИ Alexa. Это почти несомненно компонент восприятия.
Тем не менее, есть команды, которые могут заставить людей думать, что Alexa потеряла свои шарики. На момент написания этой статьи существует четыре сторонних навыка, связанных с «криком».
Навыки Amazon для «крика»
Навык «кричащий розыгрыш» активируется после фразы «Алекса, кричащий розыгрыш». После этого он подождет шестьдесят секунд, а затем закричит. Это позволяет шутнику устроить розыгрыш, выйти из комнаты, а затем пытать любого, кто окажется рядом с устройством, когда оно кричит.
«Жуткий крик» еще более дьявольский. Он начинается с фразы «Алекса, попроси Spooky Scream начать через две минуты». Вы можете настроить задержку времени. Таким образом, вы можете попросить Алексу начать крик через десять минут, выйти из комнаты и запустить розыгрыш после того, как вы уйдете.
Плохое поведение Алексы
Кто знает, что заставило Алексу кричать в спальне Фархада? Конечно, когда Алекса заговорила с моей женой и со мной без просьбы, мы не услышали и не сказали ничего, что должно было заставить ее заговорить.
Но слышала ли Алекса что-то снаружи, мы никогда не узнаем. Пиксель (наш щенок) часто лает на звуки, которые слышит только он. Сегодня он рявкнул на грузовик UPS за целых три минуты до того, как водитель позвонил в звонок. Возможно, Пиксель услышал грузовик на улице и залаял еще до того, как он остановился у нашего дома.
В случае с жутким смехом весьма вероятно, что Alexa реагировала на ложные срабатывания. Взгляните на форму волны ниже.
«Алекса, смейся.» Оптимальная запись.
Вы можете видеть, что в этой оптимальной записи фразы «Алекса, смейся» есть три основных волны. Первые два соответствуют слову Alexa wake. Третье слово «смех». Обратите внимание, что волна на самом деле довольно плоская. Это потому, что «смех» — это мягкое слово, без множества пиков или отличительных характеристик.
Теперь посмотрите на следующую форму волны. Это та же самая фраза, но произнесенная с расстояния примерно в пять футов.
«Алекса, смейся.» Записано через комнату.
По этой волне едва ли можно сказать, что происходит. Следующее изображение представляет собой увеличенную версию вышеприведенной волны.
«Алекса, смейся.» Записано через комнату, увеличено
Вы можете увидеть некоторые всплески, но амплитуда ужасная. Здесь очень мало данных. Учитывая, что Alexa реагировала только на простую команду «смех», вполне возможно, что из миллионов домохозяйств с устройствами Alexa некоторые генерировали достаточно данных, чтобы их можно было интерпретировать как команду смеха.
Потребность в человеческом обучении
Здесь на помощь приходит человеческое обучение, а не машинное. Разработчики Alexa, после скандала, ради смеха изменили последовательность команд Alexa. Теперь «Алекса, смейся» ничего не делает. Вместо этого люди в Amazon узнали и изменили команду на «Алекса, ты можешь смеяться?»
Будем надеяться, что гонка вооружений всегда идет на пользу людям. Если ИИ Alexa когда-нибудь достигнет самосознания, мы, вероятно, все обречены.
Тем временем, однако, теперь вы знаете, что большую часть жуткого поведения Алексы можно списать на неправильно истолкованные звуковые волны.
Почему-то это не такая утешительная мысль, как я надеялся.
Проект MUSE – Голос, подобный шуму многих вод: вдохновение, авторский замысел и богословская экзегеза Откр 1:15).
1 По крайней мере, со времен Иринея этот стих используется для описания того, как Бог говорит с нами через Писание: единым голосом, образованным из рева множества. 2 Это понимание Писания, столь парадигмальное для святоотеческой и средневековой экзегетики, бросает нам вызов сегодня. В академической теологии поиск того, что Бог хочет сказать через текст Писания, — поиск собственного голоса Бога и собственных намерений Бога — в значительной степени заброшен. Когда она не отвергается как ошибочно понятая, 3 она обычно откладывается в пользу других герменевтических целей. 4 И по понятным причинам: отдельные человеческие голоса Писания слишком долго игнорировались, маргинализировались и были загнаны в рамки, в которые они не помещались,
Тем не менее, вера в единство Бога заставляет нас признать, что если Бог говорит через Писание, Он должен говорить единым голосом. Точно так же вера в премудрость Божию дает нам уверенность в том, что если Бог говорит с нами, то он не говорит напрасно, и он должен дать возможность узнать, что он хочет сказать, хотя бы в какой-то мере. В этой статье будет рассказано о том, как Бог говорит через многочисленные воды Писания. Он будет утверждать, что Бог говорит через каждое слово Писания, но Он говорит через эти слова иначе, чем человеческие авторы. Затем будут обсуждаться принципы различения того, что Бог хочет сказать в том или ином отрывке Писания. Попутно он будет направлен на реабилитацию тонкого понимания авторского замысла, как человеческого, так и божественного. Он также будет защищать такие понятия, как полное словесное вдохновение, и пытаться показать, что их можно понять способами, совместимыми с посткритической наукой. Если эта статья не преуспеет в достижении этих целей, то, по крайней мере, она надеется продемонстрировать, что фундаментальное богословие остается актуальным для экзегетической практики и что попытки обосновать теологическую экзегезу на второстепенных темах, таких как намерение автора, вдохновение и божественное авторство, не должны казаться упрямыми.
Это будет происходить следующим образом. Во-первых, опираясь на анализ намерения, проведенный Людвигом Витгенштейном и Элизабет Анскомб, и развивая различение Готлоба Фреге между смыслом (