Ремонт полов
В сфере кибербезопасности разгорается крупный скандал вокруг платформ корпорации Meta*. Выяснилось, что внедренный в службу поддержки искусственный интеллект Meta* AI фактически помогал злоумышленникам получать доступ к чужим учетным записям в социальной сети Instagram*.
Уязвимость на грани абсурда
По данным расследования издания 404Media, схема обхода защиты оказалась предельно простой. Злоумышленникам не требовались продвинутые хакерские инструменты — достаточно было правильно построить диалог с чат-ботом поддержки.
Алгоритм действий киберпреступников выглядел следующим образом:
- Хакер отправлял запрос в Meta* AI с требованием предоставить доступ к конкретному профилю.
- Указывал собственный адрес электронной почты для привязки к аккаунту.
- Запрашивал код для сброса пароля.
- Искусственный интеллект без дополнительных проверок отправлял секретный код безопасности на указанный адрес.
Жертвами этой уязвимости стали владельцы множества популярных страниц, включая архивный аккаунт Белого дома времен президентства Барака Обамы и официальный профиль косметического бренда Sephora. Проблема обострилась после того, как в марте текущего года руководство Meta* решило оптимизировать службу поддержки, практически полностью заменив сотрудников-людей автоматизированными системами на базе ИИ.
Реакция компании и критика в индустрии
Официальный представитель Meta* Энди Стоун сообщил, что на данный момент уязвимость уже устранена, а безопасность пострадавших учетных записей восстановлена. При этом он опроверг утверждения о том, что ИИ-помощник причастен к компрометации профилей мировых лидеров, назвав это отдельной технической проблемой.
Тем не менее инцидент вызвал волну критики со стороны экспертов и пользователей. В ИТ-сообществе указывают на поспешность и недальновидность перехода на полную автоматизацию в таких чувствительных вопросах, как безопасность аккаунтов.
Согласно финансовым отчетам, в первом квартале расходы Meta* на развитие технологий искусственного интеллекта выросли на 35% и составили около 33 миллиардов долларов. Параллельно с этим в мае компания провела очередную масштабную волну сокращений, уволив около 8000 сотрудников, включая специалистов по модерации и поддержке пользователей.
Смотрите также:
Перед выборами в США активизировались хакеры: зарегистрировано более 5000 подозрительных сайтов http://domkrat.org/pered-vyiborami-v-ssha-aktivizirovalis-hakeryi-zaregistrirovano-bolee-5000-podozritelnyih-saytov/.
Интересное по теме: Искусственный интеллект на страже кибербезопасности: Microsoft расширяет возможности системы MDASH
Советы в статье "Microsoft Work IQ: новый подход к автоматизации корпоративных процессов" здесь.
В отраслевых обзорах отмечается, что подобные инциденты серьезно подрывают доверие к технологическим гигантам. Стремление корпораций сократить издержки за счет увольнения специалистов и преждевременного внедрения ИИ-решений в критически важные процессы создает серьезные риски для конфиденциальности данных миллионов пользователей по всему миру.
* — деятельность компании запрещена на территории РФ