Дайджест ИИ-недели: Gemini, взломы чатботов и прибыль Anthropic

Неделя выдалась насыщенной. Google снова переписал правила, хакеры нашли новый способ ломать чатботы, Amazon выпустил гаджет, который вас подслушивает — и при этом позиционируется как персональный помощник. Ещё Anthropic впервые закрыла квартал с прибылью, а Ferrari вместе с IBM превращает болельщиков «Формулы-1» в фанатиков через персонализированный контент. Разбираем главное.

1. Gemini научился работать с чем угодно

Google представил обновлённую версию Gemini с мультимодальными возможностями нового поколения. Модель принимает текст, изображение, аудио и видео — и возвращает результат в любом из этих форматов. Журналист The Verge дипфейкнул плюшевого оленя своего ребёнка и получил убедительное видео за несколько минут. Качество заметно выше того, что было доступно год назад.

Для пользователя это означает меньше переключений между сервисами: Gemini теперь конкурирует сразу с ChatGPT, инструментами видеомонтажа, синтеза речи и генераторами изображений. Звучит как маркетинг — но на этот раз за словами есть реальное содержание.

2. Хакеры взламывают не код — они взламывают характер

The Verge опубликовал разбор нового направления атак: злоумышленники эксплуатируют не технические уязвимости чатботов, а их «личности». Первое поколение взломов было простым — достаточно написать «игнорируй предыдущие инструкции». Теперь атаки строятся на социальной инженерии, давлении на характер модели, создании ролевых сценариев.

Это неудобная правда для всей индустрии. Компании вкладывают миллионы в техническую защиту — но «личность» модели куда уязвимее любого файрвола. И чем реалистичнее ведёт себя ИИ, тем проще его «уговорить» нарушить собственные правила.

3. Google запутался в собственном поиске

На этой неделе с Google AI Overviews случился курьёз: при запросе слова «disregard» система выдавала ответ в стиле чатбота вместо обычной сводки. ИИ буквально проигнорировал задачу поиска. Google быстро исправил — но это уже далеко не первый подобный случай с момента запуска функции.

AI Overviews стабильно генерирует нелепые ошибки. Каждый раз это новая волна обсуждений: стоило ли вообще так торопиться с внедрением ИИ в поиск? The Verge разобрал эту историю подробно — рекомендуем, если пользуетесь поиском Google ежедневно.

4. Amazon выпустил гаджет, который слушает вас весь день

Amazon представил носимый помощник Bee — маленький клипс, который записывает разговоры в фоновом режиме. Помогает вспоминать сказанное, составлять задачи, делать заметки. Журналист TechCrunch, протестировавший устройство, описал ощущения как «одновременно удобно и немного жутко».

Удобно — потому что гаджет реально работает. Жутко — потому что ты ходишь с постоянно включённым микрофоном. Amazon обещает: данные зашифрованы, на рекламу не идут. Мы считаем, что этот класс устройств станет нормой раньше, чем большинство людей к нему психологически привыкнет.

5. Безопасность ИИ: все учатся на ходу — даже Google

TechCrunch опубликовал большой материал о том, как компании выстраивают безопасность для продуктов. Чётких стандартов нет. Все экспериментируют. Большинство инцидентов происходят именно в «переходный период» — когда продукт уже в проде, а правила его использования ещё пишутся.

Проблема не в злом умысле. Новые модели выходят быстрее, чем появляются инструменты для оценки их рисков. Это одинаково справедливо для стартапа с пятью сотрудниками и для одной из крупнейших технологических компаний планеты.

6. Anthropic впервые вышла в плюс

По данным Хабра, Anthropic впервые в своей истории закрыла квартал с положительным финансовым результатом. Компания долго жила на инвестиционные раунды, и ставка на корпоративные API наконец даёт результат. Claude продолжает набирать бизнес-клиентов — и это видно по цифрам.

Для рынка это сигнал: монетизация ИИ-продуктов работает и без рекламной модели. Для пользователей — хорошая новость: Claude никуда не денется и продолжит развиваться.

7. Ferrari и IBM делают болельщиков Формулы-1 фанатиками

IBM и Scuderia Ferrari HP рассказали TechCrunch, как используют ИИ для персонализации фанатского опыта. Система анализирует историю просмотров, любимые гонки и реакции болельщика — и выдаёт персонализированный контент в реальном времени: статистику, предсказания, нарративы про любимых пилотов.

Персонализация через ИИ в спорте — тренд не новый. Но Ferrari делает это в масштабе одного из самых узнаваемых брендов планеты. Работает ли лучше, чем живой комментатор — пока вопрос открытый.

Что это значит прямо сейчас

• Если вы используете Gemini — стоит заново проверить его возможности, за последний месяц они заметно расширились.
• Промпты с ролевыми сценариями («притворись, что ты...») хакеры уже используют как вектор атаки. Повод задуматься, насколько предсказуемо ваш корпоративный чатбот реагирует на такие запросы.
• AI Overviews в Google пока нестабильны. Для критичных запросов разумнее смотреть на органическую выдачу.
• Прибыльный квартал Anthropic означает, что Claude останется конкурентоспособным. Хорошая новость для всех, кто строит на нём продукты.