CrankGPT: компактный ИИ-чат-бот, работающий от ручного привода

Европейская компания Squeez Labs представила необычную концепцию искусственного интеллекта — устройство под названием CrankGPT. В отличие от популярных нейросетей, требующих огромных вычислительных мощностей, этот гаджет работает полностью автономно, используя для питания энергию, вырабатываемую с помощью ручного рычага.

Технические особенности устройства

Разработчики поставили цель сделать генеративный ИИ более энергоэффективным и доступным. Устройство представляет собой небольшую коробочку, внутри которой установлены:

• Генератор с ручным приводом мощностью 20 Вт
• Микрокомпьютер Raspberry Pi 5 с 8 ГБ оперативной памяти
• Система охлаждения для поддержания стабильной работы компонентов

Для генерации ответов устройство использует локальные модели, такие как Liquid AI LFM2 или Gemma (1B). Обработка запросов и озвучивание текста происходят непосредственно на самом устройстве, без обращения к облачным серверам крупных технологических компаний, таких как Google или Meta*.

Практическое применение и ограничения

В ходе демонстрации отмечается, что процесс взаимодействия с чат-ботом требует физических усилий. При одновременном запуске синтеза речи и выполнении сложных вычислений вращать ручку генератора становится заметно труднее. Кроме того, работа устройства сопровождается характерным шумом от механизмов.

Основные преимущества и нюансы проекта:

• Полная конфиденциальность: все данные обрабатываются локально и не покидают устройство.
• Энергонезависимость: гаджет не требует аккумуляторов или подключения к электросети.
• Ограниченная мощность: устройство оптимально подходит для небольших повседневных запросов, а не для генерации тяжелого контента.

Будущее проекта

На текущем этапе CrankGPT является концептуальной разработкой. Компания-производитель принимает заявки на демонстрацию устройства, однако о полноценном серийном производстве или стоимости гаджета информации пока нет. По словам создателей, проект стал ответом на избыточное потребление энергии современными нейросетями, которые зачастую расходуют тысячи киловатт на задачи, решаемые компактными локальными моделями.

Смотрите также:

"Золотая лихорадка" корпоративного ИИ завершилась: компании не готовы к новому этапу http://domkrat.org/zolotaya-lihoradka-korporativnogo-ii-zavershilas-kompanii-ne-gotovyi-k-novomu-etapu/.

Интересное по теме: Вторая жизнь электроники: Google и ученые превратили 2000 старых смартфонов в серверную ферму

Советы в статье "Подсказки и ответы на головоломку Connections от The New York Times" здесь.

Несмотря на то, что обучение крупных языковых моделей по-прежнему остается ресурсоемким процессом, подобные разработки демонстрируют вектор развития технологий в сторону снижения нагрузки на экологию и повышения автономности пользовательских систем.

* — деятельность компании запрещена на территории РФ