Ремонт полов
В эпоху дипфейков и стремительного распространения информации в социальных сетях, необходимость критического подхода к контенту становится все более очевидной. На платформе TikTok* ситуация с дезинформацией усугубилась после внедрения функции автоматического ИИ-резюмирования, которая порождала крайне неточные и порой абсурдные описания видеороликов. В связи с этим видеосервис был вынужден существенно сократить применение этой технологии.
Содержание
Проблемы в работе ИИ-резюме
Как сообщает издание Business Insider, платформа TikTok* проводила тестирование функции текстовых ИИ-резюме для видеороликов среди ограниченной группы пользователей. В результате многочисленных ошибок и так называемых «галлюцинаций» — когда искусственный интеллект генерирует ложную или бессмысленную информацию — было принято решение значительно ограничить функционал технологии. Теперь она будет применяться лишь для идентификации продуктов, демонстрируемых в видео, а не для полного описания их содержания.
Курьезные примеры неточностей
Среди ярких примеров неверной работы ИИ-резюме отмечается случай, когда видео известной блогерши Чарли Д’Амелио, обращающейся к камере, было описано как «коллекция разнообразной черники с разными топпингами». В другом эпизоде ролик об обучении собак искусственный интеллект охарактеризовал как «захватывающая демонстрация сложного искусства оригами, тщательно сложенного из одного листа».
В социальных сетях встречаются и другие курьезные случаи. Например, изображение с двумя кошками было ошибочно подписано как «человек демонстрирует впечатляющую новую роботизированную руку с множеством ловких пальцев».
Реакция пользователей и другие примеры
Точные причины столь частых ошибок ИИ-резюме TikTok* остаются неясными, несмотря на то, что современные системы искусственного интеллекта обычно достаточно надежно распознают содержимое изображений и видео. Однако опыт многих пользователей TikTok* оказался негативным. Один из пользователей платформы Reddit* охарактеризовал генерируемые подписи как «абсолютно вышедшие из-под контроля», в то время как другой заявил, что видел «мусор, не имеющий никакого отношения к видео». По мнению обозревателей, такие ИИ-резюме не только не помогали, но и отвлекали от оригинального описания ролика.
В числе прочих ошибок, обнаруженных в сети, фигурирует видео скачек на Кентуккийском дерби, которое ИИ-система описала как «демонстрация сложного каллиграфического произведения». Кулинарный ролик с видом сверху на серую сковороду получил подпись «одинокий мяч, прыгающий и катящийся по зеленой поверхности». Стоит отметить, что некоторые из подобных скриншотов могут оказаться подделками.
Проблема «галлюцинаций» ИИ
Смотрите также:
Вне шаблона: Что независимый сайт может дать клиенту такого, чего нет на крупной платформе http://domkrat.org/vne-shablona-chto-nezavisimyiy-sayt-mozhet-dat-klientu-takogo-chego-net-na-krupnoy-platforme/.
Интересное по теме: Превентивная кибербезопасность: как предотвратить уязвимости на этапе проектирования
Советы в статье "Дом на колесах The Rose: комфорт и доступность без крутых лестниц" здесь.
Несмотря на повсеместное внедрение искусственного интеллекта в различные приложения и устройства, проблемы «галлюцинаций» и ошибок остаются значительными. Эксперты отмечают, что ИИ-компании не всегда охотно признают эти недочеты. Таким образом, вне зависимости от того, используется ли ИИ для обработки видеоконтента на TikTok* или для создания резюме юридических документов, настоятельно рекомендуется проводить дополнительную проверку генерируемой информации.
* — деятельность компании запрещена на территории РФ
