На основе своего анализа событий 2024 года (в течение которого я по работе в том числе составлял ежедневные и еженедельные сводки техноновостей) и последних десятилетий я собрал большой репорт о технологических и социокультурных трендах, которые сложились к 2025 году. Собрал я его на английском для своего сайта (кому надо пошэрить англоязычным друзьям и коллегам — забирайте тут), а этот пост — сделанная мной эксклюзивно для Вастрик Клуба русскоязычная версия. Надеюсь, будет полезно и интересно. Ну и, конечно, если есть дополнения или готовы обсудить — буду рад, вэлкам в комментарии!

Важно: пост огромный (но с мемами). Заложите время на чтение (30-40 минут, если не переходить по ссылкам, хе-хе) или разбейте на несколько подходов. Для удобства все ключевые моменты выделены болдом, так что репорт можно просмотреть бегло и ухватить суть.

Enshittification

Content bloat

В целом, это не новость — уже десятилетие бессмысленные SEO-оптимизированные статьи, бесстыдный контент-маркетинг ради контент-маркетинга, и обдолбанный SMM засоряют интернет — но в 2024, благодаря AI, активирован rampage mode. В этом ключе, одна из главных проблем LLM-ок — то, насколько с ними быстро и легко фигачить буллшит-контент. Пользователи давно жалуются на бесполезную мешанину в выдаче Google, и это во многом связано с контентом, произведённым, оптимизированным и опубликованным ИИ вообще без какого-либо человеческого участия (ну или с минимальным). В соцсетях не лучше: килотонны сгенерированных изображений «дроздов с яйцами» заполонили Facebook, LinkedIn, твиттер, и другие платформы. Ну и, конечно, они также используются в рекламных креативах.

Журналисты из 404media провели эксперимент и сделали сайт, который с помощью AI фигачит по 50+ статей, сплагиаченных откуда-то из интернета. И вся эта радость стоит всего $365. Мемы тоже автоматизируют (Аршак, признайся, ты ИИ?): строят пайплайн из Claude и Stable Diffusion, который производит всё по шаблону самостоятельно — вот, например, Wojak или Stop Doing X.

Из-за этого становится сложнее фильтровать, находить и получать meaningful информацию, а ситуация при этом только ухудшается. «Меньше осмысленности, больше контента» — девиз пугающе большой группы и людей, и брендов. Теперь у них есть идеальное средство для достижения цели с минимальными усилиями.

Data ends up in one place

…нет, не совсем там, а в датасетах для тренировки ИИ. Всем нужны твои данные — и если раньше их собирали, чтобы продавать рекламу, то теперь — чтобы продавать рекламу и тренировать на них AI. Сейчас боты (все, не только AI) отвечают за ~30% мирового интернет-трафика. Значительная часть таки скрэпит всё, что плохо лежит, чтобы тренировать на этом ИИ. Самый дерзкий из них, кстати, Bytespider (бот ByteDance, компании-владельца TikTok) — он отвечает за 40% всех запросов. Google, впрочем, тоже беспощаден: и за поисковой индексацией, и за контентом для AI обращается один и тот же бот. У владельцев сайтов только один выбор — не хочешь пропасть из выдачи, давай собирать данные. Ещё один краеугольный камень — это пользовательские данные на UGC-платформах (соцсети, Reddit, и прочее). Пользователи чаще всего даже понятия не имеют, что всё, что они публикуют, потом окажется в датасете какой-нибудь модели. Тот же Twitter, к примеру, добавил в настройки пункт с разрешением собирать данные тайно, и его при этом невозможно отключить с мобильных устройств.

Некоторые пользователи и компании противодействуют этому. Так, к примеру, Cloudflare запустила решение, которое позволяет закрывать AI-ботам доступ в один клик. Компания, на которой держится половина интернета, с помощью ML-алгоритма вычисляет даже тех ботов, что маскируются под обычных пользователей. Фича доступна всем бесплатно, и с учётом влиятельности Cloudflare и простоты подключения, можно ожидать её быстрого внедрения владельцами сайтов.

Bullshit creates more bullshit

С учётом того, с какой скоростью интернет наполняет бессмысленный генеративный контент, и что данные из интернета потом попадают в AI-датасеты, конец довольно предсказуем. По данным исследователей, тренировка моделей на сгенерированных данных неизбежно приводит к их деградации. Неважно, кормите вы LLM, VAE или GMM данными из другой модели, все они сходят с ума: забывают что знали, придумывают что не знали, — в общем, коллапсируют.

Сразу представляется чёрный рынок пыльных экзабайтных SSD с наклейками '100% AI Free' и 'Pre-AI era data', но это, конечно, юморная гиперболизация. В реальности, если у человечества хватит воли сконцентрироваться на этом заранее, отравление AI сгенерированными данными можно предотвратить — как в своё время проблему Y2K. А обыватели потом тоже будут ходить и рассказывать, что раз ничего не случилось, значит, проблемы и не было, а злые программисты и лживые медиа всё придумали.

Useless AI everywhere

Все ринулись добавлять ИИ в свои продукты и приклеивать к любой фигне ярлычок 'AI-powered'. Причём чаще всего эти «AI-ассистенты» — просто обёртка вокруг API-вызовов ChatGPT, Claude или какой-нибудь другой модели, которая, к тому же, ужасно интегрирована, не добавляет вообще никакой value, и имеет ровно 0 юзкейсов. А если говорить про интеграцию бигтехом проприетарных моделей на собственные платформы, там тоже не лучше:

• Маск добавил в Twitter работающую на базе Grok фичу 'More about this account'. Если нажать на плашку, по идее должно показываться краткое саммари — кто это, чем известен, про что пишет в аккаунте. Результаты, впрочем, хуже, чем неудовлетворительные. Нейросеть придумывает несуществующие факты, не даёт ключевую, лежащую на поверхности, информацию или вовсе ограничивается общими расплывчатыми фразами, которые можно приписать к любому профилю. В текущем виде 'More about this account' не только не полезна, но и вредна. В Твиттер также добавили и Grok-2 с генерацией картинок. Пользователи уже делают изображения с курящим Марио, чтобы позлить правообладателей, фото расчленёнки и эротику со знаменитостями — словом, всё то, что в остальных чат-ботах запрещено. Grok в целом легко усваивает и распространяет дезинформацию, а генерация им контента прямо на площадке открывает двери в бездны fake news и бессмысленного кликбейта.
• Google встроил Gemini или другие ИИ-фичи в Gmail, поисковую строку Chrome, Meet. Как это работает? Вот отличный пример с конспектом созвона. Так и работает. А YouTube анонсировал ИИ-саммари чатов. В реплаях шутят о том, как идеально будет работать эта функция. Оно и понятно — AI легко запарывает даже элементарные задачи, а при больших масштабах достаточно нескольких резонансных edge-кейсов, чтобы подорвать доверие. С учётом того, насколько токсичными и безумными бывают секции комментариев в интернете, затею Google действительно сложно назвать безопасной.
• Meta добавляет Llama в WhatsApp, Instagram и Facebook, сводя усилия для создания — и распространения — AI slop к минимуму.
• Saleforce так усиленно пытается ребрендить свои решения как AI-powered, что на встрече с инвесторами словосочетание 'AI agents' произнесли больше сотни раз.
• Различные саммари от Apple Intelligence — просто какая-то шутка.

При этом LLMки на самом деле не очень хорошо справляются с саммаризацией, на что и обращает внимание NY Mag в своей колонке. И сложно с этим поспорить: ИИ всегда выступает в роли «ненадёжного рассказчика», которому нельзя верить, а также легко упускает действительно важные детали, заменяя их неважными. Это подтверждают и исследования — абсолютно все модели галлюцинируют, и даже лучшие из них могут выдавать ответы без галлюцинаций максимум в 35% случаев. Кроме того, исследователи утверждают, что чем больше LLM, тем меньше вероятность, что она правильно ответит на простые базовые вопросы. С ростом тренировочного датасета и мощности, а также обучением на фидбэке модели начинают лучше справляться с неоднозначными вопросами — а на простые, если не знают ответ, более склонны ответить неправильно вместо того, чтобы признаться в незнании..

AI-free zones

В дополнение к AI-изации всего что угодно, зародился и антитренд. «ИИ нужен, но не везде и не всегда» — на самом деле пользователи ценят возможность в определённых ситуациях выключать нейросетевые функции.

Один из поинтов в том, что люди в большинстве не готовы перекладывать на ИИ то, что должно быть искренним выражением мыслей и эмоций. Пинать genAI-текстом подрядчика или госслужбу по почте воспринимается более-менее окей; написать любовный текст, пинговать друзей или писать ревью на продукт — вызывает вопросы. Главный из них: для чего тогда вообще это писать, если ты целиком подменяешь себя алгоритмом, который не несёт ни частицы «тебя» и выдаёт стандартизированные общие результаты, которые мог бы написать любой человек? Лучшая иллюстрация к этому — реклама Google, которую компания крутила на Олимпиаде в Париже. В ней отец просил Gemini помочь дочери написать фанатское письмо к спортсмену. Long story short: рекламу пришлось снять.

Другой поинт — в искусстве. Sci-fi писатель Тэд Чэн опубликовал эссе о том, что AI не будет создавать искусство. Мысль такая: основа любого искусства — это огромное количество микровыборов автора, которые AI не может принять за него (а если принимает, то выбирает что-то среднее), а детализовывать их все в инструкции для ИИ требует не меньше усилий, чем просто сделать всё без него (и это абсолютно противоположно тому, как делают и рекламируют genAI — output больше чем input). Лучшее предложение эссе, пожалуй, это: It [AI] reduces the amount of intention in the world.

Если говорить о продуктовых примерах, приложение-камера Halide Mark II добавило опцию «полностью без AI». На современных телефонах все фотографии, даже если включить в настройках «сырой» формат RAW, проходят обработку. Корректируется цвет неба, убираются шумы, некоторые производители даже полностью подменяют объекты (вроде Луны). Новая функция Mark II отключает абсолютно все обработки, и оставляет изображение таким, каким оно бы получилось, грубо говоря, на цифровом фотоаппарате нулевых.

Procreate, с другой стороны,призывает вообще не использовать генеративные функции в продуктах для творчества. Компания не хочет добавлять genAI в своё приложение, и утверждает, что его использование вредит художникам и индустрии в целом. Творческое сообщество заявление встретило с одобрением.

Social media clusterfuck

Downfall соцсетей — тема не новая; в конце концов, их короткий золотой век 2010-15 годов давно прошёл — но накопительный эффект enshittification особенно сильно бомбанул в 2024 году и, вероятно, продолжит развиваться в 2025. Главные платформы давно превратились в заплесневевшую кастрюлю с салатом из несвежих алгоритмов, тонн тухлой рекламы, унылой геймификации для ретеншна, накипи перегруженного интерфейса, ржавчины тотальной слежки, и нарывов миллиона подсервисов формата «мы-очередное-суперприложение-для-всего».

Людей эти соцсети достали, и некоторые пытаются найти более приятный и осмысленный опыт в нишевых приложениях. Пользователи, отчаявшиеся получить ощущение какого-то реального meaningful коннекшна с людьми и идеями, имеющими для них значение, уходят искать его в Goodreads, Strava, Letterboxd и другие специализированные сервисы с социальной функцией. Что интересно, как утверждает Bloomberg, бизнес потихоньку также следует за ними.

Но не все, конечно, готовы покончить с соцсетями в их классическом виде. Эта часть аудитории переходит со старых платформ на новые — например, Bluesky или Threads.

Впрочем, главная проблема в том, что большинство этих платформ построены на абсолютно тех же принципах, что и старые. В результате они просто реинфорсят те же самые больные неадекватные паттерны, просто в новом месте. Пользователи, конечно, получают короткую передышку и подобие свежего глотка воздуха — но ненадолго, лишь пока новые платформы не заполнятся тем же оверинжинирингом, толпами ботов и рекламой, как их предшественники.

Reality mix

Hard to tell if it's real

Нереальный и реальный мир смешиваются ещё сильнее. Чем дальше, тем сложнее становится отделять полностью выдуманную и созданную машиной информацию от выдуманной и созданной человеком. Работоспособных решений в индустрии, кажется, пока не наблюдается — и нет уверенности, что они появятся.

Так, пометки «сделано AI» в Instagram и Facebook ошибочно попадают и на настоящие фотографии. Достаточно отредактировать их в инструментах Adobe: неважно, это простой кроп или незначительная ретушь с ИИ, системы Meta всё равно могут пометить это как генеративную фантазию. YouTube создаёт набор инструментов для выявления дипфейков влогеров, но их результативность неясна. Результаты гугла так забиты AI-картинками, что проще найти сгенерированного павлина, чем настоящего.

При скроллинге сайтов или соцсетей теперь не всегда можно однозначно понять: это реальные люди на фото? Такое место вообще существует? А ложный опёнок реально так выглядит? Последний пример не случайный — семья в UK утверждает, что отравилась грибами из-за книги со сгенерированными картинками. Пользователи купили на маркетплейсе определитель грибов, и, как оказалось позднее, его как минимум частично написали и иллюстрировали с помощью ИИ (автор говорит, что на книге никаких упоминаний об этом, конечно же, не было). Sora, Kling, Veo и другие генераторы, начавшие набирать силу к концу 2024 года, только добавляют огня: теперь вопрос не только в текстах и фото — видео тоже смещается в лимб между реальностью и выдумкой.

Теперь если ты на что-то смотришь — ты смотришь на что-то, и не очень понятно, на что.

AR/VR winter

Компании отчаянно пытаются соединить нейросети, AR, интернет и соцсети в wearables, чтобы перезапустить категорию, но пока что получается откровенно плохо. Очки (помните Google Glass?) создают больше вопросов о юз-кейсах, границах приватности и удобстве, чем ответов. Броши с ИИ-ассистентами в текущем виде явно не способны конкурировать со смартфонами, и вызывают ощущение необязательной дополнительной игрушки. Vision Pro, несмотря на режим passthrough, постоянно носить невозможно. Может быть, всё дело в том, что пока не создана такая новая комбинация output, input, компактности и эргономики, которая была бы одновременно удобнее, иммерсивнее, эффективнее и функциональнее, чем тачскрины и экраны с клавиатурами. Впрочем, всё ещё впереди.

А пока что компании потихоньку выпускают продукты — как новый Meta Quest, Apple Vision Pro, Android XR, платформа-беговая дорожка Vertex, или крутящееся кресло Roto VR — но изменения ещё не набрали критическую массу, так что рынок пока остаётся довольно узким, а penetration низким.

В то же время, AR-сообщество получило неприятный пинок под зад от Meta: Цук решил шатдаунить Spark Studio. AR Devkit перестанет работать с 14 января 2025 года, и все созданные с его помощью объекты — фильтры, маски, 3D-фигуры — удалятся. Компания утверждает, что хочет уделить больше внимания AI, но эта отговорка вряд ли утешит креаторов, которые насоздавали AR-контента для инстаграма.

AI

Functionality improvements

Все основные компании за год старательно делали чат-боты более функциональными и добавляли больше инструментов для разных юз-кейсов. Это и «проекты», чтобы шэрить контекст (файлы и системные промпты) между чатами; и веб-поиск, чтобы модель не была привязана к данным из тренировочного датасета; и интеграции с OS и приложениями, чтобы получать больше контекста из окружения и самостоятельно действовать; и «память», чтобы хранить хоть какие-то куски информации между сессиями и чатами; и так далее.

Одни из основных проблем LLM в этом разрезе, наряду с ненадёжностью/галлюцинациями и отказом признавать ошибки/некомпетентность, — это недостаточное количество специфичного и конкретного контекста о пользователе и о задаче, которое часто не даёт корректно эти задачи выполнять, а также отсутствие внятной долговременной памяти, из-за которого GPT превращается в маразматика, начинающего каждый раз с чистого листа. Судя по их действиям, компании вполне в курсе этого и предпринимают шаги для исправления. Звучит как достаточно здоровый путь развития.

The race for AGI / Software optimizations

В воздухе витает AGI-лихорадка. Миллионы долларов тратят на то, чтобы заскейлить существующие модели — что уже делать сложно, так как оставшихся данных уже недостаточно — или чтобы переделать модели (например, комбинируя несколько существующих). И всё в погоне за Artificial General Intelligence, которая будет сравнима по reasoning и мышлению с человеком. У компаний при этом нет чёткого и внятного определения, что такое AGI, который они хотят создать, и бенчмарка, чтобы однозначно понять, что они его создали, когда это произойдёт. В 2025 нас ждёт ещё больше заявлений о том, что «мы уже почти на пороге AGI» с новыми моделями, пока основной и распространённый на пользователей функционал AI будет итеративно прогрессировать относительно умеренными темпами.

Более важный вопрос — оптимизация. Уже существуют методы запуска LLM с меньшими ресурсами (например, квантизация), но общее потребление ресурсов и при тренировке моделей, и для их инференса всё ещё слишком высоко. Если бы программисты 80х-90х не занимались оптимизацией и хаками/workarounds, чтобы выжать из намного более слабых машин всё, что только можно, мы бы, вероятно, не находились в той же точке технологического прогресса, в которой находимся сегодня. После того, как доступных ресурсов резко стало больше, значительная часть индустрии расслабилась и начала уделять всё меньше и меньше внимания тому, насколько эффективно упакованы их решения. Сейчас самое время вернуться к гонке за оптимизацией: мы как раз снова в точке, где перед нами многообещающие технологии, но при этом они требуют качественно новых подходов. Мне кажется, многие это понимают, и можно ожидать некоторых прорывов — или хотя бы значительных успехов — в этой области в ближайшие годы.

Один из примеров здесь — Recogni. Компания разработала подход, который значительно удешевляет инференс. Их продукт, Pareto, использует логарифмическую систему счисления и конвертирует умножение в сложение, что, по их словам, экономит ресурсы — сохраняя точность вычислений. Или Outerport, которые представили систему для быстрой замены моделей на одном GPU. Hot swap происходит за ~2 секунды, что в ~150 раз быстрее обычных способов. Как утверждают фаундеры, проект использует кэширование для быстрой загрузки и оптимизации работы, что может сократить расходы на 40%.
А тем временем, пока мы всё это обсуждаем, разрыв между open-source и проприетарными моделями сокращается. Так что можно, вероятно, не ждать Одного Единственного Труъ™ Gatekeeper.

Infra optimizations

Оптимизация инфраструктуры уже происходит. Все работают над тремя задачами: улучшение отдачи за те же затраты, создание более мощных устройств, и масштабирование имеющихся ресурсов (датацентров, GPU, доступа к энергии, и т.д).
Apple пытается придумать распределённый процессинг, чтобы задачи обрабатывались на нескольких устройствах. Очевидно, делить ворклоад в хайвмайнде Mac, iPhone, iPad и Vision Pro логичнее всего при работе с нейросетями — то есть, для выпущенной недавно Apple Intelligence. Кроме того, совокупная вычислительная мощность экосистемы позволит выполнять более мощные задачи, чем те, что может осилить одно устройство. Распределённый инференс с управлением ворклоадом для consumer-grade устройств, впрочем, уже придумали. С Exo можно запустить AI-кластер из домашних макбуков, айфонов (для них, правда, поддержка пока приостановлена), Android-телефонов и Linux-машин. При этом библиотека соединяет устройства p2p и распределяет слои модели между нодами пропорционально их мощности. Звучит достаточно похоже на патент Apple.
Другие, например Cerebras, пытаются бросить вызов титанам hardware-рынка. Компания запускает облачный инференс и утверждает, что это самый быстрый инференс в мире — он поддерживает 450 токенов/с с Llama 3.1-70B. Стартап использует чипы собственной разработки, Wafer Scale Engines, и хочет конкурировать с де-факто стандартными для отрасли GPU Nvidia — при этом с более быстрой и дёшевой опцией.

It's (not) welcome here

Вопрос, где хорошо использовать AI, а где нет, всё ещё открыт. Посмотрим на медицину: медицинские ИИ предвзяты. Согласно исследованию, результаты работы нейросетей, которые используют для постановки диагноза по изображениям (например, рентгену), варьируются по качеству в зависимости от пола, возраста и расы пациента. При анализе данных AI использует 'demographic shortcuts': грубо говоря, слишком обобщающую группировку — "все 60+", "все темнокожие 20-25", etc. Если ещё проще, это старые добрые стереотипы. Подобный подход ИИ, в свою очередь, вопрос данных, на которых тренируют модели. Но это всё поправимо: по советам учёных, лучше либо заставлять ИИ не предсказывать и не учитывать демографию, либо награждать модель за отсутствие bias в подгруппе, и наказывать за наличие, которое влечёт за собой ухудшение результата.

С бюрократией не всё так хорошо. В Неваде AI Google будет рассматривать заявки на пособие по безработице. ИИ будет анализировать расшифровки слушаний дела и изучать связанные документы — а затем предоставлять краткое саммари с решением: нужно одобрить, отклонить или доработать заявку. Саммари затем уйдёт на проверку человеку, который и примет финальное решение. По словам властей штата, такой подход поможет разобрать бюрократические завалы, возникшие после COVID-19. Эксперты сомневаются, и не зря: помимо ненадёжности результатов современного AI, система создаёт давление и на людей: проще просто нажать кнопку, что подтверждаешь решение нейросети, чем разбираться в деталях — особенно если тебе нужно как можно быстрее разобрать кучу накопившихся дел. Плюс, такой подход ещё больше убивает какое-либо внимание к деталям и контексту, чем и так грешат многие бюрократические аппараты.

Закон и судопроизводство? Нет. Исследователи научили ИИ определять ложь лучше, чем человек. Но в этой идее больше проблем, чем решений: во-первых, точность в 67% (по сравнению со среднечеловеческими ~50%) — это всё ещё очень низкий показатель. Во-вторых, моральные дилеммы: даже если довести результативность системы до, условно, 95%, достаточно ли это для того, чтобы беспрекословно верить её результатам? Как насчёт тех пяти процентов (и это в утрированном случае против почти трети в реальности), которых AI обвинит ошибочно? А результатам, согласно исследованию, склонны верить — и чаще обвинять других во лжи, если так говорит ИИ. Стоит ли вообще перекладывать подобные суждения на программы и использовать их как дополнительное обоснование? Можно ли проверять человека на ложь против его воли? Даже полиграф считается лженаукой с низкой эффективностью и, как правило, не принимается в качестве юридического доказательства.

Сгладить UX? Круто, достойно — но подумайте (и протестируйте) дважды. Секонд-хенд маркетплейс Depop добавил AI-генерацию объявлений по одному фото. Загружаешь товар — нейросеть опознаёт его и прописывает бренд, цвет, описание. Словом, магическая кнопка «сделать заебись», о которой мечтательно шутят чуть ли не с появления интернета. Однако как соблюсти баланс, где такая кнопка помогает пользователю и обществу, снимая с него рутинную работу (которой могло бы не быть), — а не обесценивает всё человеческое и превращает коммуникацию в дуэль призраков симулякров симулякров? Наверное, грань проходит где-то сильно до идеи дейтинг-эппа Bumble об использовании AI в профилях и переписках или даже более умеренного решения Tinder дать возможность AI выбирать фото профиля.

Eco

Ну тут всё плохо. А что ещё вы ожидали, что я скажу? Мы все знаем, что При написании одного email из 100 слов с помощью ChatGPT расходуется более полулитра воды и 0.14 kWh электроэнергии, бла-бла-бла, и так далее. Компании забивают болт и по большей части ударяются в гринвошинг. Например, согласно годовому отчёту Google, выбросы парниковых газов у них за пять лет выросли почти вполовину. Виной всему AI — как признаёт сама компания, большая часть роста связана с повышенным энергопотреблением дата-центров, задействованных в компьюте новых ИИ-функций. Прогноз от Google стыдливо сообщает, что «выбросы вырастут ещё больше, прежде чем снизиться до таргет-значений» — и если с тем, что выбросов будет больше, всё понятно, то как они после этого снизятся до net zero, не уточняется. ‘The world’s understanding of “net zero” remains in a dynamic state and is subject to refinement’ — это потрясающе малодушная и сомнительная с точки зрения PR отговорка.

Есть, впрочем, и какая-то робкая надежда: та же Google заключила сделку с Holocene по извлечению CO2 из атмосферы. Стартап только появился, ему всего два года, однако он предлагает услуги значительно дешевле конкурентов — $100 за тонну против $600+. Цена имеет в вопросе откачки и переработки CO2 решающее значение: если Holocene не блефует и действительно смог настолько снизить себестоимость, то проблему парниковых газов можно считать на треть решённой. Сделка предусматривает поглощение 100 тысяч тонн углекислоты за 8 лет — при том, что у Holocene пока есть только тестовое производство в Теннесси с поддерживаемым объёмом 10 тонн в год.

Nostalgia

Ревущие двадцатые (я про 2020-е) пробуждают одновременно скорбную печаль и страсть к прошлому. Ностальгия проявляется и в визуальной сфере (тот же пиксельный дизайн или или retrowave), в музыке, искусстве и, конечно, в tech.

Спустя 20 лет после релиза Motorola Razr, компания выпускает новую версию (конечно, с ИИ). Рынок складных смартфонов в США вырос в 3 раза за последний год, и Motorola занимает в нём около 75%. Пользователи ностальгируют по Windows Phone: и меню-плитке, и в целом с нежностью вспоминают OS. Многие говорят, что она опередила своё время и была лучшей, несмотря на почти полное отсутствие приложений. Дополнительно, в соцсетях обсуждался кейс для Apple Watch, который превращает их в подобие iPod Classic (да-да, с тем самым колёсиком). Естественно, вспомнили и про раритетный чехол для iPod Nano, который превращал его в подобие часов.
We've come full circle.

Phygital

Phygital (в широком смысле) растёт, но вызывает вопросы и беспокойство.

Walmart меняет обычные ценники в магазинах на e-ink экраны. Такой ход вызывает опасения о будущем манипулировании ценами: покупатели переживают, что surge pricing придёт и в оффлайн. Так, один из самых ярких примеров возможного применения предполагает динамическое повышение цены на воду и мороженое в жаркие дни. Компания всё отрицает и обещает, что подобного не случится.

Европейские законодатели хотят урегулировать подобное динамическое ценообразование. Проблема на слуху после продажи билетов на реюнион группы Oasis: пользователи, по сто лет ожидавшие своей очереди на покупку, наконец попадали в магазин и видели, что цены существенно выросли. Теперь четырнадцать евродепутатов предлагают добавить поправки в DSA, чтобы ограничить использование этого инструмента. Тема, тем не менее, не новая: приём, который возник примерно в эпоху пузыря доткомов, начал раздражать всех уже в 2010-х, например, в такси и доставке. Но если в этих областях surge pricing ещё как-то обоснован, его перенос в другие сферы вызывает у общественности справедливые опасения.

И, в довершение, AI внедряют в оффлайн-шоппинг и обслуживание. Amazon прилаживает его в системы Just Walk Out для магазинов, а Taco Bell — в свои drive-thru для приёма заказов.

Robotics

Робототехника становится более плавной, более способной и более футуристичной (часть — широкофункциональной, часть — чрезвычайно специализированной).

Робот Nadia оптимизировали так, что им можно играть в настольный теннис. Управляемой через VR машине обеспечили плавные движения и, что немаловажно, снизили I/O-задержку. Продемонстрировали это на пинг-понге в паре с человеком, однако несложно представить, как подобные роботы в будущем используются там, где человеку быть опасно или некомфортно: в шахтах, космосе, на войне. В том, что дойдёт и до последнего, сомнений особых нет — вот, к примеру, украинские военные уже сейчас встраивают AI в дроны. Не только для распознавания ландшафта и целей, а также обхода РЭБ, но и для координации UAV swarms. ИИ будет применяться там, где человеческий разум слишком узок для выполнения задачи (множество переменных, слишком быстро меняющаяся обстановка, множество калькуляций), и в каких-то областях это будет в прямом смысле вопросом жизни и смерти.

Также роботы получают больше рабочих мест в промышленности, медицине, сельском хозяйстве, FMCG и доставке:

• Робот под управлением ИИ провёл первую операцию на зубах. «ИИ-стоматолог» использует OCT для постройки 3D-моделей зубов, доктор-человек принимает решение, и дальше робот самостоятельно проводит процедуру. В этот раз зубы готовили к установке коронки — что, по заявлению компании, занимает пару часов и часто разбивается на два отдельных похода ко врачу. Робот справился с задачей почти за 15 минут.
• IKEA приспособила дроны для инвентаризации. Вместо использования UAV в доставке (посмотрел бы на то, как дрон тащит какой-нибудь стеллаж Idanäs!), шведская компания пошла другим путём. В шестнадцати европейских магазинах ритейлера беспилотники летают по складам и сканируют товары в труднодоступных местах. Меньше нудной и неудобной работы — а актуальность торгового инвентаря практически в режиме реального времени.
• В UK разрешили запустить тестовое использование дронов для доставки, инспектирования инфраструктуры, и экстренных служб. Shake Shack тоже запускает беспилотную доставку еды в LA.
• AI прорастает в сельском хозяйстве — так, его приспособили для распыления гербицидов. Роботы-тракторы John Deere с нейросетевым распознаванием растений гораздо точнее попадают на сорняки, не задевая культивируемые посевы. А Precision AI использует похожую технологию для своих сельскохозяйственных квадрокоптеров. Умное распыление не только снижает повреждение полезных культур, но и значительно снижает расход химикатов — одновременно благоприятно влияя на экологию и уменьшая производственные затраты.
• Self-driving многообещающе выглядит для грузовиков. Пока другие пытаются автоматизировать езду по хайвеям, Kodiak Robotics пошли другим путём и сфокусировались на нише грузоперевозок по бездорожью. Не везде, куда нужно доставить отправление, есть дороги — особенно это чувствуется, к примеру, при контрактах с Минобороны США. Платить за это часто готовы больше. Выход? Обучить фуры ездить off-road, а не фокусироваться на стандартной логистике. Но область применения шире, чем сотрудничество с людьми в кителях: на стройки нужно доставлять гравий и песок, в отдалённые поселения — возить продукты и медикаменты, вахтовикам и археологам — оборудование. А когда-нибудь, возможно, эти технологии пригодятся для перевозок на других планетах.

Тренировать роботов тоже становится легче. Это можно делать в симуляции, созданной сканированием пространства через iPhone. Одна из главных проблем домашних роботов в том, что воркспейсы абсолютно уникальны, а к тому же постоянно меняются. Решение есть: можно заставить юзера сканировать пространство с помощью телефона, создать на основе этого виртуальное пространство, и оперативно провести в нём десятки тысяч, сотни тысяч и даже миллионы симуляций, прежде чем доверить роботу сделать что-то по-настоящему в реальном пространстве. Осталось автоматизировать сам скан пространства, чтобы исключить из цепочки и юзера, и iPhone, — но это уже дело техники.

Hardware

Полный вперёд к более мощным и эффективным железкам. Ситуация с видеокартами и чипами из-за AI всё ещё напряжённая. Так, Nvidia выпускает версию модели RTX 4070 с более простой GDDR6 памятью (вместо GDDR6X). Mitsubishi не справляется с потоком заказов на компоненты для дата-центров. DRAM и SSD раскупают влёт. В итоге производители пытаются разработать и выпустить более эффективные устройства, а государства — поддержать индустрию. Возможно, параллельно с hardware-разработками справиться с shortages помогут software-оптимизации — такие, как в сегодняшнем блоке выше: упрощение инференса, быстрый запуск и замена моделей, словом, разработка shortcuts, которые выдают тот же результат при меньших усилиях.

Пока Intel анонсирует новые AI процессоры, ASML создала прототип нового станка для EUV-литографии и получила первые результаты. С его помощью можно печатать чипы с плотностью линий в 9,5nm, использованием 2D-роутинга, а также печатать всего за одну экспозицию (даже DRAM-чипы), что существенно удешевляет производство. А Infineon разработала технологию, которая значительно удешевит производство AI-чипов нового поколения. Компания разработала 300-мм пластины из нитрида галлия, на которых можно изготавливать в 2.3 раза больше чипов. И хотя это изменение техпроцесса само по себе количественное, если соединить это с остальной work-in-progress по оптимизации производства полупроводников, в ближайшие годы нас может ждать качественное изменение в мощности, компактности и дешевизне специализированных AI-чипов.

Продажи полупроводников в Америках впервые за пять лет превысили продажи в Китае. Они выросли YoY на 40%. В Европе же, которая поставила себе цель производить 20% мировых чипов к 2030 году (против текущих 10%), одним из главных рисков называют недостаток квалифицированных специалистов. И хотя TSMC будет строить фабрику в Дрездене, а Intel — «мегафабрику» в Магдебурге (правда, в ноябре 2024 года старт строительства перенесли на 2029-2030), по оценке отраслевых ассоциаций действия европейских регуляторов запаздывают: развитие отрасли тормозит бюрократия и долгие согласования.

Есть надежды и для квантовых компьютеров: учёные разработали новую архитектуру кубитов. Она может значительно упростить производство. Учёные работали над кубитами-сендвичами из сверхпроводника, разделённого изолятором, однако более продуктивным и простым оказался подход с отдельными пластинами сверхпроводника, соединёнными тонким сверхпроводящим проводом.

А вот развитие потребительских устройств, кажется, забуксовало и вышло на плато — ничего особенного не происходит. Apple, Google и Samsung провели свои презентации и показали новые продукты, но никаких существенных изменений не произошло, а основной упор был целиком на AI. Такой же застой можно наблюдать в игровых консолях, которые отстают от компьютеров.

Brains online

Интерфейсы «мозг-компьютер» и нейроимплантаты больше не фантастическая приколюха из Cyberpank. Устройства уже здесь, они работают, и находятся на (довольно долгом) пути к массовому производству. Вопрос только в том, сколько времени это займёт, в том, какой рынок они в итоге сформируют, и в penetration (pun intended).

• Neuralink протестировала свои устройства на двух пациентах, и они смогли управлять компьютером силой мысли. Чип Blindsight, который должен восстанавливать зрение, получил разрешение FDA на тестирование на людях.
• Импланты Blackrock Neurotech помогли двум пациентам с ALS снова начать общаться голосом. Парализованным мужчине и женщине вживили нейрочипы, которые превращают считываемые с мозга сигналы в текст, а затем текст озвучивается синтезированным голосом человека, образцы для которого взяты до заболевания.
• Ребёнок с первым в мире имплантом от эпилепсии страдает от припадков на 80% реже. Больному не поддающейся лечению версии эпилепсии вживили имплант ещё в октябре 2023 года, и с тех пор качество жизни мальчика сильно улучшилось — его родственники не зафиксировали ни одного падения из-за сильного дневного приступа.
• А Synchron уже даже добавила в свой нейроимплант ChatGPT. Чип вживили через вену (никакой операции на мозге!) человеку с боковым амиотрофическим склерозом. Нейросеть в нём используется для расширения возможностей в общении: в диалогах ChatGPT генерирует несколько формулировок на выбор, и пациент мысленно выбирает одну из них. Как утверждается, LLM при создании ответов учитывает не только контекст переписки, но и эмоциональное состояние — оно считывается через имплант.

Copyright & Legal

Битва «копирайт vs AI» продолжается и разгорается сильнее. Компании, продающие лицензированные данные для тренировки AI, сформировали Dataset Providers Alliance — первую ассоциацию в индустрии. Обещают заниматься в том числе этическими вопросами. Тем временем лейблы из США судятся с ИИ-генераторами музыки Suno и Udio, Центр расследовательской журналистики судится с OpenAI и Microsoft, Forbes и Wired обвиняют Perplexity в плагиате и незаконном сборе данных, а Reddit обновляет robots.txt, чтобы не дать ИИ скрэпить данные. При этом мы знаем, что многие AI-компании игнорируют инструкции robots.txt, и простых эффективных способов помешать им владельцы сайтов будто бы пока не нащупали (хотя есть интересные идеи).

Показательный пример проблем — временный шатдаун созданного Figma AI-инструмента Make Designs. Наспех (и это признаёт CEO компании) накормленный референсами ИИ начал выдавать пользователям дизайны, до степени смешения похожие на реально существующие приложения. Например, на Apple Weather. При этом CTO говорит, что сами модели тренировали не они — но тех, кто воспользовался новым тулом в работе, и теперь рискует попасть под иск, такие заявления вряд ли утешат.

Регулирование ИИ сейчас на этапе становления, и проблемы с ним по всему миру. Часто это реакционные действия, как в Бразилии, где отменяют новую политику конфиденциальности Meta из-за тренировки ИИ на данных пользователей. В других случаях, — как в Китае, — это стратегический подход с попыткой разработать 50+ стандартов для ИИ за два года.

И то, и то выглядит пугающе несбалансированно: реакционные решения плохо считаются с долговременными последствиями, а пока пишутся и принимаются большие сборники, технологии делают скачок вперёд и меняют цифровой ландшафт до неузнаваемости.

Внятного регулирования всё ещё нет даже для социальных сетей, что уж говорить об искусственном интеллекте. Вот, к примеру, обсуждения вызвал глава ИИ-подразделения Microsoft и сооснователь DeepMind. Microsoft’s AI boss thinks it’s perfectly okay to steal content if it’s on the open web, с таким заголовком The Verge приводит высказывания Мустафы Сулеймана, что ещё с девяностых есть негласное соглашение 'всё что попадает в интернет, становится публичным и доступным для fair свободного использования'. И с какой-то стороны он прав: возможно, некоторые пользователи недооценивают то, что происходит, когда они выкладывают что-то в сеть, и им стоит ожидать, что информация может хаотично распространяться, комбинироваться, использоваться и изменяться. Но есть в логике Мустафы и фатальный изъян: нельзя делать с контентом что угодно и как угодно, просто если ты нашёл это в интернете — особенно если ты гигантская корпорация.

Но прогресс происходит и тут: US, EU и UK подписали первое юридически обязущее соглашение по AI. Framework Convention on Artificial Intelligence содержит верхнеуровневые принципы: например, соответствие любых разработок правам человека и принципам демократии, приверженность прозрачности и защита privacy, отсутствие дискриминации. Фреймворк также подписали Норвегия, Исландия, Израиль, Грузия, Молдова, Андорра и Сан-Марино. Также, в 2024 году в силу вступил EU AI Act, который регулировать ИИ в зависимости от уровня риска. Кроме того, шестьдесят стран — но не Китай — поддержали создание глобального фреймворка по использованию AI в военных технологиях.

Google признали монополистом. В последние годы техножурналисты периодически обсуждали, может ли компания повторить судьбу AT&T, которую в 1982 по решению суда разделили на несколько более мелких из-за монопольного положения. Пока что Google не дробят, но сигнал однозначный. Другие бигтех-компании тоже рискуют столкнуться с похожими проблемами.

Workforce

Дебаты о влиянии ИИ на рынок труда накаляются. Влияние при этом несомненно: Intuit увольняет 1800 сотрудников, чтобы нанять 1800 других сотрудников, которые будут заниматься AI; AI в Klarna выполняет работу 700 сотрудников и помог компании сэкономить на сотрудниках. CEO утверждает, что вместо увольнений они просто не хайрили с сентября 2023 года, и выручка в пересчёте на сотрудника выросла на 73%. Из контекста понятно, что в первую очередь речь идёт о службе поддержки — с учётом того, что это финтех, кейс распространённый и понятный. Похожий опыт есть и в Филиппинах: там ИИ успешно вытесняет людей из колл-центров.

CTO OpenAI вступила в дискуссию о влиянии ИИ на рабочие места. “Исчезнут в основном те, которых и не должно было существовать” — кратко и достаточно объективно. Как мы видим по истории, технический прогресс, хоть и убивает некоторые профессии, взамен создаёт новые — как правило, с лучшими условиями труда или более высокой эффективностью.
Более того, AI становится ненадежной точкой соприкосновения на рынке труда. По исследованию LinkedIn, 71% менеджеров скорее наймут кандидата с сильными AI-скиллами, чем кандидата с опытом в индустрии. FT, в свою очередь, сообщает, что около половины соискателей используют ChatGPT для Cover Letters (которые потом тоже вместо HR проверяет AI).

Economics

Технокомпании находятся меж двух огней. С одной стороны, после начавшейся в конце 2021 - начале 2022 годов масштабной коррекции они вынуждены сокращать расходы и проводить лэйоффы (из последних примеров: Intel, Amazon, Alphabet, Microsoft, IBM). С другой — из-за ставки на AI приходится наращивать траты на инфраструктуру и R&D. А инвесторы начинают терять терпение в ожидании, когда же ИИ начнёт окупаться и принесёт заветные 10x/50x/100x.

А AI пока — это не особо прибыльная work in progress. Из самых смешных примеров есть Humane, покупатели которой возвращают AI-пины быстрее, чем компания их продаёт, и Amazon, у которой в новой AI-функции подкастов «обсуждаемые темы выпуска» от AI одно название: ИИ используется только для расшифровки текста, а теги с темами проставляют люди вручную (возможно, оно и к лучшему).

Технокомпании стараются избавиться от китайских активов. Microsoft попросил часть сотрудников переехать в другие регионы; IBM не отстаёт и полностью закрывает китайский R&D отдел из 1600 человек; Канада вводит запретительные пошлины на китайские электроавтомобили и сталь; до этого пошлины на них увеличил Евросоюз. А Нидерланды собираются ограничить ASML возможность чинить технику с полупроводниками в Китае. На тоталитарное государство все по большому счёту закрывали глаза — как это непозволительно долго происходило и с РФ — но теперь из-за растущей напряжённости стараются обезопасить свои вложения. В целом, стратегия разумная — правда, начинать стоило лет на десять раньше. Из-за того, что инфраструктура для отступления не готова, действия пока что довольно ограниченные: бигтех не готов масштабировать выход из Китая, лишь совершает робкие первые шаги.

Hacks

Хакерские атаки становятся чаще, быстрее и разрушительнее. Согласно опросу Yubico, почти половина сотрудников становилась жертвой скама или кибератаки. В 2024 году под удар попадали американские автодилеры, и последствия удалось разгрести только через несколько недель. Затем хакнули Microsoft — а заодно с ним и некоторые государственные агентства. У 2FA приложения Authy увели 33 миллиона пользовательских номеров телефонов, а из уже опубликованных за 20 лет утечек разного рода (с добавлением каких-то новых крэков) составили базу с 10 миллиардами украденных паролей — крупнейшую в своём роде.

Также, как выяснилось, ещё в 2023 году хакеры добрались до OpenAI. Вероятно, не в последний раз: в новом приложении для Mac компания додумалась хранить диалоги с ChatGPT в plain text (!). Дыру уже исправили, но осадок остался. И вишенка на торте: Global chaos erupts as Windows security update goes bad. Заголовок, к которому и добавить-то нечего. BSOD по всему миру, отмены рейсов в аэропортах, проблемы с Apple Pay и ТВ-эфирами, закрытые магазины и клиники, и другие весёлые последствия непродуманного «херакс херакс и в продакшн» от секьюрити-вендора CrowdStrike.

AI здесь работает в двух направлениях: во-первых, его можно взламывать. Так, в AI-функциях Slack нашли уязвимость. Мошеннику достаточно создать публичный канал с самим собой и внедрить туда текст с инструкцией для модели. При ответе на вопрос другого пользователя ИИ возьмёт данные в том числе из этого мошеннического канала и, следуя инструкции мошенника, подставит вредоносную ссылку. Атакам такого типа подвержен не только помощник Slack, но и многие другие модели. И если для митигации MiTM уже давно есть SSL, PKI и 2FA, то придумыванием решений для предотвращения prompt injection явно ещё предстоит заняться. В числе других инцидентов в AI-сервисах техногиганта SAP нашли уязвимости, через которые можно украсть данные клиентов и даже управлять их docker-образами.

Во-вторых, хакеры теперь используют сгенерированный AI код в атаках. Когда компании-разработчики рассказывали, что genAI сэкономит время программистам, они не задумались — или проигнорировали — что программисты тоже бывают разные. Помимо повышения эффективности решения несложных, но частых задач, возможность сгенерировать код понижает порог входа в программирование, в том числе для желающих кого-то взломать. Если раньше, чтобы скинуть жертве архив с несложным трояном, нужно было разобраться в языке и векторах атаки, то с AI работа начинающего хакера становится гораздо проще. Успокаивает на время то, что пока что подобные поделки не отличаются хитростью и сделаны явно нубами. Но в руках более опытных хакеров — или если он сам научится выдавать более сложные решения — AI может принести больше урона.

---

Если ты дочитал*а до конца — вау! Во-первых, можешь добавить +1 в список прочитанных книг-2025:

Во-вторых, тогда тебе точно стоит прийти в комментарии. Расскажи, что ты думаешь о трендах 2025 — возможно, у тебя есть своя версия или дополнения, будет круто послушать. Ну или просто скидывай мемы о своих ощущениях от tech 202x.