Ремонт полов
Компания OpenAI анонсировала запуск новой функции безопасности под названием Lockdown Mode. Она разработана для защиты чат-бота ChatGPT от так называемых промпт-инъекций — кибератак, при которых злоумышленники внедряют вредоносные инструкции в веб-страницы и другие внешние источники для манипуляции поведением искусственного интеллекта.
Ограничения ради безопасности
При активации Lockdown Mode ограничивается работа некоторых функций ChatGPT, которые потенциально могут быть использованы для обхода систем безопасности или кражи данных. В этом режиме временно отключаются инструменты, требующие активного взаимодействия с внешней веб-средой:
- Прямой доступ к интернету в реальном времени (пользователям становится доступен только кэшированный контент).
- Загрузка и отображение сторонних изображений из сети (при этом функция генерации новых картинок внутри чата продолжает работать).
- Инструмент для глубокого поиска информации Deep Research.
- Режим автономных агентов (Agent Mode).
Снижение рисков утечки данных
Разработчики подчеркивают, что Lockdown Mode не обеспечивает абсолютную защиту от промпт-инъекций. Вредоносный алгоритм все еще может содержаться в сохраненных копиях сайтов или в файлах, которые загружает сам пользователь, что способно повлиять на точность ответов ИИ. Тем не менее, главная цель нововведения — минимизировать риски несанкционированной передачи конфиденциальной информации сторонним ресурсам.
Смотрите также:
Президент США направил передовые технологии искусственного интеллекта на нужды армии http://domkrat.org/prezident-ssha-napravil-peredovyie-tehnologii-iskusstvennogo-intellekta-na-nuzhdyi-armii/.
Интересное по теме: Премьера новой молодежной драмы «Every Year After» состоится на Prime Video
Советы в статье "Как Apple сделала кражу корпоративных MacBook и iPad бессмысленной" здесь.
В обзоре функции отмечается, что Lockdown Mode предназначен не для массового пользователя. Он ориентирован в первую очередь на организации и специалистов, которые работают со строго конфиденциальными сведениями и нуждаются в максимальной защите от утечек данных.
По информации компании, на данный момент Lockdown Mode постепенно внедряется для корпоративных клиентов с тарифными планами ChatGPT Business, а также для некоторых категорий индивидуальных учетных записей.