Омут памяти Как CINO в innoforce.kz, я ежедневно работаю с технологиями и инновациями. В блоге saubakirov.kz и здесь делюсь своими мыслями, анализирую статьи, отчеты и новости из мира IT и Computer Science. Это помогает мне очищать голову и искать новые и

Исследователи из Anthropic объединили пятнадцать недорогих ТВ-приставок и запустили на них языковую модель. Одной приставки для неё не хватило бы, а вместе они справились. А что, если агент сможет сам находить другие устройства, копировать себя и продолжать работу уже оттуда? В июне вышла работа об ИИ-червях, где проверяли именно такую возможность. Исследователи собрали изолированную сеть из 33 виртуальных машин с намеренно оставленными уязвимостями. Агент проникал на машины и запускал свои копии, которые переходили на следующие. За неделю копии появлялись в среднем на двадцати машинах. В основном опыте они пользовались общими серверами модели, а запуск самой модели на захваченной машине проверяли отдельно. Компьютерные черви давно умеют копировать себя. Здесь агент ещё и разбирается, как устроена незнакомая машина, подбирает способ проникнуть на неё и меняет свои действия, если что-то не получается. В отдельном опыте Anthropic помогали даже заметки о прошлых попытках и ошибках. Следующий агент получал их и чаще справлялся с запуском модели. Теперь вернёмся к приставкам. Модель можно разделить между небольшими устройствами. Каждое выполняет свою часть вычислений и передаёт результат следующему. Работает очень медленно, но работает. Мощного компьютера и много электричества не требуется, а ИИ спешить некуда, оно может и подождать. В будущем для такой сети могли бы подойти и «умные» холодильники, микроволновки, тостеры - если у их встроенных компьютеров хватит памяти и мощности. Если агент научится сам заражать эти устройства и запускать на них модель, то просто отключением серверов или датацентров его уже не остановить. Готовая завязка для серии «Чёрного зеркала» про тостеры-убийцы. Представили себе сеть из микроволновок, холодильников и тостеров, на которой живёт чужой ИИ?

https://saubakirov.kz/tfw

Авторство и память. Последние дни все обсуждают уравнения Навье-Стокса, одну из задач тысячелетия. Помню на мехмате наши учителя говорили об этой задаче едва ли не на каждом семинаре. Теперь OpenAI заявила что ИИ агенты нашли решение за 88 часов. Но меня здесь больше заинтересовала не сама математика, а обстоятельства открытия. Тристан Бакмастер, профессор NYU, и Левент Альпёге, сотрудник Anthropic, почти год вели собственное исследование с помощью нескольких ИИ-моделей и сохраняли черновики в Codex. Они получили важные результаты для родственных уравнений, но саму задачу Навье-Стокса не решили. Незадолго до публикации Альпёге загадочно намекнул в соцсетях на крупный прорыв. Поскольку он работал в Anthropic, намёк быстро превратился в слух, будто компания решила задачи тысячелетия. В OpenAI решили не ждать, выделили тысячи агентов и отправили новую модель решать задачи тысячелетия. Через несколько дней компания объявила о решении. Бакмастер спросил, могла ли модель обучаться на их сессиях, но однозначного ответа не получил. OpenAI утверждает, что её команда и агенты не видели работы Бакмастера и Альпёге и не обращались к их конкретным пользовательским данным, хотя компания и не исключает, что обезличенные данные от использования её продуктов могли повлиять на обучение модели. Бакмастеру также предложили представить решение OpenAI без Альпёге в числе авторов, и он отказался. Воровство ли это? Пока мы этого не знаем, и сам Бакмастер никого в нём не обвиняет. Но спор о том, кому принадлежит открытие, уже начался. Подробная хронология событий собрана у Ильи Гусева. В недавнем эссе я обсуждал мысль Теренса Тао. Даже верное доказательство ещё не становится знанием, пока люди не поняли его, не объяснили и не связали с уже известным. История с Навье-Стоксом добавляет к этому ещё один вопрос. Кому принадлежат результаты умственного труда, оставленные в переписке с ИИ? Мы привыкли считать чат с моделью обычным черновиком. Но в нём остаётся часть нашего умственного труда — вопросы, догадки и найденные решения. Ими могут воспользоваться при обучении следующей модели. Мы не знаем, произошло ли так в этом случае. Поражает сама возможность. Подробнее о суверенитете памяти я писал в эссе «Суверенитет памяти и данных: у кого остаются знания».

Обратный кентавр, чикенизация и антихрупкость мышления Что общего между кентавром Гарри Каспарова, курятниками Арканзаса, индюшкой Нассима Талеба и Kaspi? На первый взгляд — ничего. Но, пытаясь ответить на один вопрос, я неожиданно обнаружил между ними связь. Так появилось это эссе. Увидеть эту связь мне помогли новые термины. Точные термины и определения помогают нам мыслить. В математике вводят понятия, дают им определения и доказывают вспомогательные леммы. Благодаря этому дальше можно рассуждать короче и яснее. Хороший термин не просто заменяет длинное объяснение одним словом. Иногда он помогает заметить явление, которое прежде оставалось безымянным и невидимым. В работе с ИИ у точных терминов появляется ещё одна польза. Модель обычно уже знакома с распространёнными понятиями и аналогиями. Точный термин сокращает диалог и помогает человеку и модели говорить на одном языке. Поэтому я стал обращать внимание на новые понятия, меткие фразы и удачные аналогии и записывать их. За последние месяцы в моих заметках появились пять таких понятий — кентавр, обратный кентавр, чикенизация, тейлоризм и антихрупкость. Они сложились у меня в одну цепочку мыслей, и я решил об этом написать. Всё началось с вопроса. Что происходит с человеком, когда его работа всё больше зависит от алгоритмов и ИИ? Получилось семь коротких частей о том, как пользоваться ИИ, не отдавая ему управление собственной работой и не теряя накопленных знаний. Начать можно с первой части — здесь.

Как интересно и удобно анализировать события через notebooklm. И текст написал, и инфографику и презентацию сразу. Скидываю всё как есть Хроника энергетического сбоя в Центральной Азии: Постмортем событий 14 августа 2026 года 14 августа 2026 года в четырех странах Центральной Азии — Казахстане, Узбекистане, Кыргызстане и Таджикистане — произошел масштабный синхронный сбой в подаче электроэнергии. Инцидент подчеркнул уязвимость региональной энергосистемы в условиях аномальной жары и изношенности инфраструктуры. Таймлайн событий (14 августа 2026 г.) Ниже представлен поминутный отчет о развитии кризиса на основе имеющихся данных от операторов сетей и министерств энергетики. Время (UTC+5) Событие Детали - 14:38 Критический сбой в Казахстане Неожиданное отключение трех высоковольтных линий электропередачи 500 кВ (L-5400, L-5300 и L-5320), принадлежащих национальному оператору KEGOC. Это активировало автоматические системы защиты. - 15:00 Начало перебоев в Кыргызстане Жители Бишкека начинают сообщать о массовых отключениях электричества в различных районах города. - 15:11 Остановка метро в Алматы В крупнейшем мегаполисе Казахстана полностью прекращено движение метрополитена. Начата эвакуация пассажиров со станций и из поездов, застрявших в тоннелях. - 15:27 Масштабное подтверждение СМИ подтверждают одновременное отсутствие электроэнергии в ключевых городах региона: Алматы, Бишкеке, Душанбе и ряде областей Узбекистана. Вторая половина дня Постепенное восстановление Министерство энергетики Казахстана сообщает о полной очистке линий KEGOC. Региональные компании начинают постепенное подключение потребителей. - 18:01 Статус метро Алматы Официальное подтверждение временного закрытия станций до полной подачи напряжения на контактный рельс. Жертв и пострадавших нет. - 18:23 Заявление Минэнерго РК Объявлено о полном восстановлении подачи энергии по магистральным линиям. Опровергнуты слухи о том, что причиной аварии в Узбекистане стал инцидент на территории Казахстана. Анализ причин и официальные позиции Власти затронутых стран предоставили различные интерпретации причин сбоя, что указывает на сложность интеграции Объединенной энергосистемы (ОЭС) Центральной Азии. * Казахстан (KEGOC / Минэнерго): Сбой произошел из-за «внезапного изменения потока мощности» в энергосистеме Центральной Азии, что привело к скачку напряжения. Это вынудило южную зону Казахстана перейти на изолированную работу. * Узбекистан (Минэнерго): Причиной названа «авария в энергосистеме соседней страны», которая затронула всю сеть региона. Наиболее пострадала Сурхандарьинская область. * Таджикистан (Минэнерго): Охарактеризовали ситуацию как «чрезвычайную». Для выяснения причин была создана межведомственная рабочая группа. Версия об аварии на Нурекской ГЭС была официально опровергнута. * Кыргызстан: Подтвержден факт отделения страны от единой энергосистемы вследствие аварии в сети Казахстана. Инфраструктурный ущерб * Транспорт: В Алматы остановка метро привела к необходимости эвакуации людей из тоннелей. * Связь: В ряде регионов Алматинской области и Бишкека фиксировались сбои в работе интернета и мобильной связи. * Водоснабжение: В Алматы из-за отсутствия электричества на насосных станциях начались перебои с подачей воды. * Культурные мероприятия: Под угрозой отмены оказался концерт Канье Уэста на Центральном стадионе Алматы.

[document]

13 июня Semafor выпустил материал о конфликте вокруг Claude Fable и Mythos. По данным издания, решение правительства США ограничить доступ к этим моделям могло быть связано с Китаем. Мне стало интересно, что происходит, ниже короткая хронология. 1. В апреле Anthropic запустила Claude Mythos и программу Project Glasswing. По словам компании, Mythos умеет самостоятельно находить zero-day уязвимости в программном обеспечении. Доступ был ограничен 12-и партнёрами, среди них Amazon, Apple, Google, Microsoft и NVIDIA. Использовали модель для поиска уязвимостей, за 2 месяца партнёры нашли более 10 000 уязвимостей. 2. 9 июня Anthropic выпустила Claude Fable для широкой аудитории. Fable и Mythos не две разные нейронки в привычном смысле. В основе у них одна и та же модель, а различаются они защитными ограничениями. У Fable включены дополнительные фильтры на запросы поиска уязвимостей, биологического или химического оружия. Mythos же работает без этих ограничений и остаётся доступной только проверенным участникам Glasswing. Если защиту Fable можно обойти, то она становится как Mythos по опасным возможностям. А модель, способная искать уязвимости такого уровня, в чужих руках может стать инструментом для кибератак. 3. 12 июня правительство США, по данным СМИ через Министерство торговли, направило Anthropic экспортную директиву. Требование заключалось в том, чтобы закрыть доступ к Fable и Mythos для всех иностранных граждан. Включая тех, кто находится в США, и даже сотрудников Anthropic без американского гражданства. Anthropic не смогла быстро и надёжно разделить пользователей по гражданству. Поэтому компания отключила обе модели для всех клиентов. 4. 13 июня советник Трампа Дэвид Сакс изложил версию администрации. По его словам, «доверенный партнёр» Anthropic и правительства США нашёл способ обойти защиту Fable и сообщил об этом властям. Администрация предупредила Anthropic, но CEO компании Дарио Амодеи, как утверждает Сакс, отказался исправлять проблему или снимать модель с доступа. По данным Semafor, WSJ и Business Insider, этим партнёром был Amazon, что делает историю ещё более странной. Amazon одновременно крупнейший инвестор Anthropic, облачный провайдер и участник Glasswing. Компания, вложившая в Anthropic больше $8 млрд сама подняла вопрос о риске в модели, на которую сделала большую ставку. Amazon детали не раскрывает. 5. Anthropic эту версию оспаривает. Компания говорит, что речь шла не об универсальном взломе защиты, а об узком способе обхода, который показывал уже известные и не самые серьёзные уязвимости. Anthropic также утверждает, что Белый дом не поднимал тему китайского доступа к Mythos в переговорах. Получается, что если ключевая ИИ-инфраструктура организации находится под иностранной юрисдикцией, доступ к ней может зависеть от политического решения. Честно говоря "ничего непонятно, но очень интересно". Что стало реальной причиной - Китай, кибербезопасность или что-то ещё неизвестно. Но реклама получилась хорошая. Полезное - Эксклюзив Semafor (https://www.semafor.com/article/06/13/2026/white-house-move-to-limit-anthropic-linked-to-concerns-about-chinese-access-to-mythos) - Пост Sacks в X (https://x.com/davidsacks/status/2065853007619588171)

Когда отчёт об ИИ сам становится кейсом об ИИ. В октябре 2025-го KPMG выпустила глобальный отчёт «Total Experience: Redefining Excellence in the Age of Agentic AI» - ежегодное исследование о клиентском опыте, с акцентом на Agentic AI. Восемь месяцев спустя команда GPTZero проверила источники в отчёте через Hallucination Check. После этого Financial Times также верифицировал часть спорных утверждений, а KPMG удалила отчёт и заявила о внутренней проверке. Меня в этой истории заинтересовали две вещи. Первая. Ошибка прошла через институт доверия. Она была оформлена как аналитика, получила логотип одной из крупнейших консалтинговых компаний мира, уверенный язык, отраслевые примеры и начала жить как знание. Вторая. Галлюцинации коснулись близкой мне темы общественного транспорта. GPTZero пишет, что из 45 цитат только 5 точно указывали на корректные источники. На первый взгляд всё выглядело нормально. Названия, авторы, даты, отраслевой контекст. Но при проверке выяснялось, что названия перефразированы, авторы перепутаны, даты сдвинуты, а некоторые источники не подтверждают тезисы, для которых они были приведены. Мой глаз зацепился за Transport for London. В отчёте утверждалось, что TfL использует ИИ-агентов для прогнозирования пробок, персонализации уведомлений для пассажиров и координации мультимодального транспорта. Для транспортной отрасли это звучит правдоподобно. Именно поэтому ошибка опасна. TfL действительно использует AI и компьютерное зрение в отдельных задачах. Камеры, мониторинг станций, выявление безбилетного прохода, анализ пассажиропотока, работа с городскими данными. Но это не то же самое, что agentic AI в том виде, как его описывает отчёт KPMG. При проверке оказалось, что цитата про TfL ссылалась не на документ TfL, а на пост из блога стороннего разработчика. Перепутан был даже автор источника. Сам источник не подтверждал тезис про AI agents. У GPTZero для этого есть точный термин "vibe citing". Алекс Адам, руководитель ML в GPTZero, предложил это название вместо вариантов вроде «hallucinated citations». Проще говоря, это ссылка, которая выглядит убедительно и хорошо оформлена. Название, год, источник, контекст. Но содержание приблизительное. Иногда это не чистая ложь, а смесь реальных фрагментов, собранных в нечто несуществующее. Я часто вижу это в студенческих работах. Ссылки выглядят академически правильно, но при проверке ведут в никуда или к тексту, который говорит совсем о другом. Раньше для этого не было короткого точного слова, теперь есть :) --- И это уже не единичная история. GPTZero ранее находила галлюцинированные цитаты в отчёте Deloitte Australia, в работах, проходивших review на ICLR 2026, и в принятых статьях NeurIPS 2025. В мае 2026 года в Ernst & Young Canada также убрала со своего сайта исследование после аналогичной проверки. Отчёт KPMG после публикации попал в десятки изданий. На его данные ссылались аналитики и журналисты. GPTZero показала скриншоты, где ChatGPT и Gemini уже воспроизводят неверные данные из отчёта. Получается замкнутый цикл галлюцинация → публикация → цитирование → обучение → новая галлюцинация. Проверяйте источники. Даже если на обложке стоит логотип Big Four. Полезное: - Расследование GPTZero https://gptzero.me/news/investigations-kpmg/ - Копия удаленного отчета KPMG https://smallpdf.com/file#s=a35e268b-87cf-4380-b3f2-77b78c9e2274&r=read

Неожиданное развитие событий с fable 5: правительство США наложило экспортные ограничения (то, что обычно делают на оружие) — потребовали от Антропика отключить доступ к этой модели для всех иностранцев, включая сотрудников компании - не американцев. Сделать быстро это Антропик не может, так что выключают доступ для всех. Правительство утверждает, что обнаружило «джейлбрейк», который позволяет разблокировать возможности модели для кибер-атак. Антропик говорит, что речь о стандартном приеме «исправь ошибку в этом коде», который ровно так же работает и в ChatGPT 5.5. Обещают больше подробностей в течение 24 часов. Хочется пошутить, что это такая PR-стратегия антропика перед IPO для поддержания хайпа, и что у них в очередной раз не хватает видеокарт, или что это наоборот, козни Сэма Альтмана против конкурента (тоже перед IPO), и что хайп про сверх-возможности в области в кибербезопасности имеет и обратные последствия, но вообще все это исключительно странно, даже для этой администрации. Похоже, кто-то в правительстве всерьез озабочен mythos/fable, ну или просто очередная дурь. 50:50. 🍿

Несколько месяцев назад я писал про технологию "Сновидений" (Dreaming), которую обнаружил в Claude Code. Идея мне так понравилась, что я внедрил её аналог в TFW, мою методологию работы с ИИ агентами. С тех пор TFW агенты постоянно актуализируют свои знания о проектах, с которыми мы работаем. И чем дольше мы с ними работаем над проектом, тем лучше они его узнают и запоминают. А сегодня прочитал новость, что openai выкатил апдейт в Память ChatGPT, технология называется Dreaming. Идея состоит в том, чтобы время от времени формировать и упорядочивать воспоминания и обновлять память (Memory) из истории всех чатов. Вот цитата из блога openai: Классические системы памяти склонны со временем терять актуальность. Например, пользователь сообщает ChatGPT: «Я сейчас в Сингапуре, посоветуй ресторан на ужин». Проходит время, поездка завершается, но система по-прежнему может опираться на устаревший контекст - будто пользователь всё ещё находится в Сингапуре. Механизм dreaming решает эту проблему за счёт автоматической переоценки сохранённых сведений с течением времени. Так, запись вида «пользователь планирует поездку в Сингапур в июле» после завершения поездки может быть преобразована в более точную формулировку: «пользователь был в Сингапуре в июле 2026 года». Благодаря этому, вернувшись домой, пользователь снова получает рекомендации, соответствующие его текущему местоположению и часовому поясу. Оказывается первая версия "сновидений" ChatGPT появилась ещё в 2025 году. Но тогда они не смогли раскатить её на всех пользователей, просто, из-за нехватки вычислительных мощностей.

Китай распространил режим выездных согласований на топ-специалистов по AI в частных компаниях, включая Alibaba и DeepSeek. По данным источников Bloomberg, основателям стартапов, исследователям и руководителям, признанным стратегически значимыми, теперь требуется одобрение властей перед поездками за рубеж. Прежде подобная практика — вплоть до изъятия паспортов — применялась к чиновникам, ядерщикам и менеджменту госкомпаний; распространение её на частный сектор ранее было нехарактерно. Списки формируются не по уровню должности, а по индивидуальной оценке критичности человека для страны. Все "новое" на самом деле просто старое, о котором не в курсе новые поколения. Всякие особенности на передвижение людей, имевших или могущих иметь отношение к "режимным" вопросам, не пропадали никогда на протяжении последних лет 80. А уж если кто помнит советские практики в этом плане, то и вообще удивляться не будет. https://www.bloomberg.com/news/articles/2026-05-26/china-expands-travel-curbs-to-top-ai-talent-at-private-firms?accessToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzb3VyY2UiOiJTdWJzY3JpYmVyR2lmdGVkQXJ0aWNsZSIsImlhdCI6MTc3OTgwMDQwMCwiZXhwIjoxNzgwNDA1MjAwLCJhcnRpY2xlSWQiOiJURjBEMzhLSzNOWUEwMCIsImJjb25uZWN0SWQiOiJDODcyMDJCNUE5RkU0Q0NBOTBFMTgzMDUxNkYxNTlGRSJ9.HzM3tbnW8AlvQEje6EVlRrl7NLsqCcxkVWRx1-zpTqI

👆начало поста выше А вот это и есть знаменитая AI Laboratory of Tsinghua. По сути просто небольшая, но очень удобная аудитория. Она оборудована камерами и микрофонами для онлайн звонков, интерактивными досками и очень удобными столами-креслами.

👆 ИИ хорошо ложится туда, где уже есть основа. Если есть лаборатория, оборудование, данные, методология и задачи, ИИ делает работу быстрее и доступнее. Если есть производство, supply chain, сервисная команда и понимание клиента, ИИ можно встроить в продукт и сопровождение. Если есть университетская культура исследований, ИИ становится ещё одним инструментом для развития науки и образования. Но если этой основы нет, сам ИИ не создаёт зрелость из пустоты. Он не заменяет процессы. Не заменяет культуру. Не заменяет организацию труда. Он усиливает то, что уже существует. Мы ехали перенимать опыт в области ИИ. А я вернулся с мыслью, что отдельного “опыта по ИИ” как универсального рецепта не существует. Есть опыт построения инфраструктуры и культуры инноваций. Есть опыт организации университетов и лабораторий. Есть опыт работы бизнеса с клиентской ценностью. Есть опыт дисциплины, процессов и долгосрочных инвестиций. А ИИ уже ложится поверх этого. Да, в Китае ИИ встроен очень широко. Но не потому, что все просто начали “заниматься ИИ”. Скорее потому, что во многих местах уже были собраны системы, которые можно усилить с помощью ИИ. Корпорации развивают модели и платформы. Университеты используют их в исследованиях. Производители встраивают их в hardware и software. Лаборатории применяют их как более простой интерфейс к сложному оборудованию. Бизнес упаковывает их в решения для клиентов. ИИ становится commodity. Как электричество, интернет, облака, вычислительная инфраструктура. Без этого уже невозможно развиваться. Но само по себе наличие электричества не делает завод эффективным. Наличие интернета не делает университет сильным. Наличие LLM не делает организацию умной. Добавленная стоимость появляется там, где есть система, в которую технология встроена. Если мы хотим развивать ИИ в университетах, компаниях и государственном секторе, нужно начинать не с AI и презентаций. Нужно строить среду, в которую ИИ сможет войти естественно. Нужны инфраструктура, процессы, культура экспериментов. Нужна связь университетов с индустрией. Тогда ИИ начнёт работать как усилитель зрелой системы. Здесь я вспоминаю вот это видео, где Лорен Грэхем говорит: "отделять социополитическую систему от технологий все равно что пытаться получить молоко без коровы". Вот какое определение "коровы" он приводит: Демократическая форма правления, защита интеллектуальной собственности, контроль над коррупцией и преступностью, правовая система, где обвиняемый имеет шанс на оправдание, свободный рынок, где инвесторам нужны новые технологии. Культура позволяет критические высказывания, в ней можно потерпеть неудачу, чтобы ещё раз попытаться. 👇

[photo]

[document]

[document]

[document]

[photo]

👆 Tsinghua University - то один из сильнейших университетов Китая, его часто сравнивают с Stanford, MIT и Carnegie Mellon. Мы посетили кампус Industry Training Center и их лаборатории. Увидели, как там устроена работа с ИИ, робототехникой и смежными направлениями. Сильнее всего впечатлили лаборатории робототехники и биоинформатики. Большие пространства, много оборудования, манипуляторы, роботы, гуманоидные платформы, установки для работы с биоматериалами. Все это видно на видео и фотографиях. Чувствуются годы инвестиций, инженерная школа, научная дисциплина и понятная организация работы. А вот AI лаборатория выглядела неожиданно скромно. Небольшой open space, рабочие места. Пространство для обсуждений, занятий и brainstorm-сессий. Никакого ощущения фантастического центра управления будущим. Люди приходят, думают, обсуждают, пишут, проверяют гипотезы и работают над задачами. Всё. И это, пожалуй, было одним из самых сильных инсайтов. AI лаборатория - это просто среда, в которой можно быстро и удобно обсуждать, проверять и собирать решения. При этом ИИ в Китае действительно встроен во многие процессы. Например, роботизированные манипуляторы начинают программироваться через естественный язык. То, что раньше требовало инженерной подготовки и специальных навыков, становится доступнее для студентов из других областей, включая art sciences. LLM не только ускоряет работу инженеров. Он снижает порог входа в сложные технологии для тех, кто раньше просто не мог работать с ними напрямую. Но здесь важно не перепутать причину и следствие. 👇

[photo]

[photo]

[photo]

👆 Я, как и многие, воспринимал Lenovo прежде всего как производителя ноутбуков. ThinkPad, рабочие станции, телефоны, компьютерная техника. Но в Пекине стало ясно, что Lenovo давно вышла за пределы этого образа. В их линейке есть серверы, системы хранения данных, сетевое оборудование, телефоны, периферия, инфраструктурные решения и даже бытовые устройства. Но больше всего меня заинтересовало не разнообразие продуктов, а изменение самой стратегии продаж. Раньше я воспринимал китайских производителей просто как поставщиков оборудования. Купил оборудование, а дальше сам разбирайся, как это внедрять, как обслуживать и принесёт ли это ценность. Сейчас у Lenovo совсем другой подход. Они предлагают не отдельное оборудование, а готовое решение под задачу клиента. Hardware, software, внедрение, аудит, сопровождение, архитектура инфраструктуры. Не просто “вот сервер”, а “вот среда, на которой можно решать вашу задачу”. И мне кажется одна из причин - это глубокая адаптация LLM-Agent кодинга. Если любой софт можно написать очень быстро и дёшево, почему бы не включить его как довесок к оборудованию? Это особенно заметно по их линейке Sovereign AI Infrastructure. Если убрать маркетинг - останутся вычислительные мощности, системы хранения данных, сеть, управление, безопасность, deployment, поддержка и готовые software-компоненты под LLM-нагрузки. Но именно в этом и есть ценность. Не в том, что внутри спрятан особый ИИ, а в том, что всё собрано в понятную, обслуживаемую и готовую к внедрению систему. Надо только понимать зачем вам этот ИИ. Мы слишком много внимания уделяем самому AI, LLM моделям или её очередной версии. Но в реальности ценность создаётся не только моделью. Она создаётся инфраструктурой вокруг неё. Где модель работает? Кто её обслуживает? Как она подключена к данным? Кто отвечает за результат? Как она встроена в процессы? Дальше про знаменитый Tsinghua University. 👇

Съездил в Пекин вместе с партнёрами из Abai University, AI University и Lenovo. Цель поездки - посмотреть, как в Китае развивают инфраструктуру для ИИ, какие hardware-решения для этого предлагает Lenovo, как устроены лаборатории и как ИИ встроен в работу одного из ведущих университетов Китая, Tsinghua University. Там были коллеги из других университетов Европы и Америки. В разговорах между сессиями быстро стало понятно, что проблемы цифровой трансформации у всех очень похожи. Страны, бюджеты и масштабы разные, но вопросы почти одни и те же. Как менять процессы. Как готовить людей. Как встроить ИИ не в презентацию, а в реальную работу. Мой главный вывод после поездки звучит так: AI почти бесполезен без культуры экспериментов. Поездка и общение с коллегами стали полезными и отрезвляющими. Но сначала расскажу про Lenovo. 👇

Миграция bottlneck Andrew Ng написал на днях то, о чём я много думаю последний год: AI-native команды работают принципиально иначе. Не быстрее пишут код, тестируют, пишут документы, а иначе. Роли размываются. Инженер - это одновременно продакт, дизайнер, иногда маркетолог и программист. Sales - это человек, который умеет прототипировать, готовить предложения без инженеров. Команда из 2-5 человек закрывает работу, для которой раньше нужно было 20. Но вот что Ng добавил, и это важно: когда ты ускоряешь код в 10-100 раз, узкое место не исчезает, а мигрирует. Команда собрала фичу за день. Маркетинг не успел подготовить коммуникацию - застряли. Юристы не успели проверить договор - застряли. Клиент не успел подготовить данные - застряли на внедрении. Скорость процесса ограничена самым узким его местом. Узкое место это - AI adoption и скорость с которой люди учатся и используют новые инструменты. Я писал про смерть пирамиды утилизации - про то, как AI убивает нижние этажи консалтинга и в фокусе был только персонал занятный в проектах, а проблема реально шире. Пирамида рушится не только внутри команды разработки. Она рушится на стыках. Между engineering и остальными функциями, которые не ускорились. Что мы можем с этим сделать: Ng говорит про генералистов. Человек, который и код напишет, и продуктовое решение примет и с клиентом поговорит и предлжение сам согласует. Практически это значит: • Не нанимай узкого специалиста, если задачу можно закрыть генералистом с AI • Ускоряй не только код и тестирование, а весь процесс: юристы, маркетинг, операции, продажи • Метрика - не утилизация команды, а скорость, с которой клиент получает ценность • Если ты ускорил разработку, но не ускорил всё остальное - ты просто быстрее упираешься в стену Самое интересное в посте Ng - он честно говорит: "I realize these shifts to job roles are tough to navigate for many people." Это мягко сказано. Для консалтинга это большая смена парадигмы. Тысячи людей, построивших карьеру на специализации в одной функции, просыпаются в мире, где генералист с AI ценнее. Golden age of learning and building, говорит Ng. Согласен. Но только для тех, кто готов учиться. Остальным будет уже очень тяжело. @maxvotek | linkedin | substack

[photo]

[photo]

[photo]

[photo]

[photo]

[photo]

Сегодня участвовали в Digital Farabi 2026 от Innoforce. Мы предложили задачу по защите систем искусственного интеллекта от атак. Это актуальная и вполне практическая тема. Было интересно посмотреть, как студенты работают с ней, какие подходы выбирают и какие решения предлагают. Впечатление осталось очень хорошее. Есть сильные ребята, и это чувствуется сразу. Некоторые решения оказались неожиданными и действительно интересными. Спасибо команде Innoforce и особая благодарность Айгерим Мусиной. В Innoforce она является директором R&D, а также преподает на факультете информационных технологий КазНУ. Именно она организовала наше участие со стороны innoforce, и благодаря ей оно получилось содержательным и хорошо собранным. Спасибо декану Тимуру Сакеновичу за организацию. Ценно, что форум объединил университет, студентов и несколько компаний вокруг одной важной темы - искусственного интеллекта. Именно в таких форматах особенно хорошо видно, что сотрудничество науки и бизнеса может быть живым, предметным и полезным для всех сторон. Командам, занявшим первые три места, мы подарили мини-ПК Orange Pi. А еще, победители получили бонусные поездки в мобильном приложении avtobys.kz, мы же теперь работаем и в Алматы :-). Приятно, когда можно подарить что-то своё.

Нарвался на классный гитхаб репо - MemPalace. Решает очень важную проблему, про которую пока говорят меньше, чем надо. Знания о проекте. Не абстрактные знания модели, а реальный рабочий контекст. Решения, обсуждения, компромиссы, архитектура, процессы, люди, история изменений. Он сканит тексты чатов и код, строит граф знаний и дает быстрый и точный доступ к этому контексту. По сути, это Google по рабочим чатам, документации и коду проекта. Именно здесь сегодня один из главных барьеров для AI. Модель сама по себе может быть сильной, но без знаний о конкретном продукте она не понимает, почему в проекте все устроено именно так. Почему приняли это решение. Кто его продвигал. Какие альтернативы обсуждали. Почему от них отказались. Не случайно в эту сторону сейчас идут многие. Недавно Andrej Karpathy опубликовал LLM Wiki. Там ровно та же большая идея. Чтобы AI не отвечал из воздуха, а опирался на системно собранную базу знаний. Кажется, следующий шаг в развитии AI будет не только про новые модели. Он будет про знания. Кто лучше научится собирать контекст о продукте, тот и получит по-настоящему полезный AI с меньшим числом ошибок.

👆 Это продолжение поста о знании. Недавно изучал, как устроен Claude Code, и наткнулся на функцию, которая называется Dreaming. Идея простая: фоновый процесс, который запускается между сессиями и автоматически приводит в порядок память агента. Перечитывает все заметки, сверяет факты, удаляет устаревшее, объединяет дублирующую информацию, разрешает противоречия. Это прямая аналогия с тем, что делает наш мозг во время сна - переносит важное в долговременную память и проводит синаптический прунинг, уничтожая лишние связи. Но меня поразила не столько сама идея, сколько то, как они её объяснили модели. Они просто назвали это Dreaming и Pruning - устоявшиеся нейробиологические термины. ИИ уже знает, что такое «сон» и «прунинг». Ему не нужен длинный промпт с объяснениями - достаточно одного слова, и модель понимает цель, контекст и ожидаемый результат. Промпт получился коротким и компактным. Потому что не надо объяснять, что такое Сон. И вот этот момент меня зацепил. Термины, названия, концепции - это не просто удобство. Это сжатие контекста. Одно правильное слово заменяет страницу объяснений. Чем точнее ты именуешь процесс, тем лучше модель понимает, что от неё хотят. Это элегантное простое решение. Причём это работает не только с ИИ. Где-то слышал такую историю: в лаборатории морозильник на -80 градусов, внутри дорогие образцы, сотрудники забывают плотно закрывать дверцу. Таблички, штрафы, пищалки - ничего не помогало. Тогда морозильнику дали имя - Артур. Наклеили глаза и табличку: «Привет, я Артур. Мне плохо, когда мою дверь оставляют открытой». Инциденты прекратились. Наш мозг игнорирует абстрактные инструкции, но не может подвести «члена команды». Имя или название меняет отношение. --- И вот мы возвращаемся к началу. Я писал TFW, чтобы наделить ИИ знаниями о том, как правильно выполнять работу. Формализовывал процесс мышления на естественном языке. Но чем глубже я погружался, тем яснее становилось: я пытаюсь определить «знание» через «знание». Это рекурсия - нельзя определить понятие через само это понятие. Чтобы объяснить ИИ, как думать, нужно сначала понять, что такое «думать». Чтобы автоматизировать науку, нужно формализовать, что такое «наука». Чтобы передать знание, нужно определить, что такое «знание». Так мы оказываемся у Платона. Этим вопросам два с половиной тысячелетия, и ответа до сих пор нет. Но, может, именно ИИ заставит нас его наконец найти. Не потому, что он даст ответ. А потому, что без ответа мы не сможем двигаться дальше. Полезное: - The Platonic Representation Hypothesis — MIT, 2024 - Language Models in Plato's Cave — Sergey Levine - What is «Science», Exactly? — Ben Goertzel - Trace-First Workflow — TFW #ai #философия #tfw #знание

«The thought process and the instructions are more valuable than the immediate result.» Последнее время я много думаю о знании. О том, что это вообще такое и можно ли его передать машине. Мысли накапливались из разных мест - из собственной работы, из научных статей, из случайной находки в чужом коде - и в какой-то момент сложились в картину, которой хочу поделиться. Это три истории. Каждая сама по себе, но все три ведут к одному и тому же вопросу. --- Два года назад я начал активно работать с ИИ. И столкнулся с парадоксом: инструмент, который обещал ускорить работу, чаще всего её замедлял. Модель выдавала горы текста, но не делала то, что мне было нужно. Она не понимала контекст, не помнила предыдущих решений, не видела картину целиком. Я начал учиться ей управлять. Интуитивно пришёл к тому, что модели нужно писать не просто задачу, а весь ход мыслей: как я думаю, почему выбрал этот путь, какие альтернативы отбросил, что точно хочу получить на выходе - шаг за шагом. Так появился Trace-First Workflow. Методика, в которой нет ни строчки кода. Только текст: как нужно думать и что делать по шагам, чтобы получить результат. По сути я пытался формализовать собственное мышление - записать алгоритм того, как я работаю, и передать его ИИ. И это оказалось невероятно сложной задачей. Не технически. Концептуально. Потому что нужно было ответить на вопрос: а что такое «сделать работу»? Что значит «думать»? --- Параллельно я стал замечать, что не один задаюсь такими вопросами. Учёные, работающие с ИИ, всё чаще обращаются к философии - причём не к современной, а к фундаментальной. К Платону. Исследователи из MIT опубликовали работу, в которой показывают, что разные модели ИИ - языковые, визуальные, мультимодальные - приходят к одному и тому же внутреннему представлению реальности. Авторы сами проводят прямую аналогию с платоновским миром идеальных форм и пишут: «The training data for our algorithms are shadows on the cave wall, yet, we hypothesize, models are recovering ever better representations of the actual world outside the cave.» Данные - тени на стене пещеры, но модели всё лучше реконструируют реальный мир за её пределами. Сергей Левин из Беркли идёт дальше: он пишет, что языковые модели живут в Платоновой пещере. LLM не изучают мир напрямую - они реконструируют человеческий разум по тени, которую он отбрасывает в интернете. Каждый текст в сети - результат чьего-то мыслительного процесса: решения задачи, написания шутки, объяснения концепции. Предсказывая следующий токен, модель по сути пытается обратить этот процесс - воссоздать ментальную модель автора. Это самый мощный «сканер мозга» в истории, но он видит только тени, а не объекты, которые их отбрасывают. Бен Гёртцель задаётся ещё более прямым вопросом: «Что такое наука?». И приходит к выводу, что текущий ИИ умеет проверять гипотезы и находить решения в рамках уже известных правил. Но создавать новые парадигмы - новые способы думать о реальности - пока не может. Потому что для этого нужно сначала определить, что такое «простое», «важное» и «знание». А это философские вопросы, которые мы сами до конца не решили. Понятно, почему учёные вернулись к Платону. Если мы хотим, чтобы науку двигали машины, мы сначала должны сами понять, что такое наука и знание. Нельзя автоматизировать то, что ты не можешь определить. --- А третья история совсем из другой области. 👇

Алматы, сәлем! 👋 Avtobys жүйесін кезең-кезеңімен іске қоса бастаймыз. Қазір автобустарда алғашқы планшеттер орнатылып жатыр. Алдағы уақытта олар қаладағы басқа қоғамдық көліктерде де пайда болады 💛 Бір қосымша – барлық қалаға Отандық сервис – барлығымыз үшін 🇰🇿 ________ Алматы, привет! 👋 Мы начинаем поэтапный запуск Avtobys. Сейчас в автобусах устанавливаются первые планшеты и будут появляться всё в большем количестве общественных транспортов 💛 Одно приложение – для всех городов Казахстанский сервис, созданный для нас 🇰🇿

«Сен де — бір кірпіш, дүниеге. Кетігін тап та, бар, қалан!» Абай Кунанбаев Основатель "Innoforce PLC" и цифровой платформы avtobys.kz, Ханат Нурекенов, дал первое развёрнутое интервью подкасту Doing Business. Разговор получился откровенным - про ошибки, деньги и путь, который редко обсуждают публично. Несколько фактов из интервью. 1. Про провалы. В 2014 году команда сожгла 800 тысяч долларов за четыре месяца на проекте Allpay - попытке оцифровать наличные расчёты на базарах Шымкента. Один из местных банкиров тогда сказал: «если сможешь вытащить нал из кармана шымкентца, будешь гением». Не получилось. Проект закрыли, но именно тогда отточили платёжную платформу, которая потом легла в основу Avtobys. 2. Про коррупцию. Когда систему внедрили в первых городах, владельцы автопарков обнаружили, что 30% денег просто не доходило до них. Кондукторы, диспетчеры, служба безопасности - все участвовали. 3. Про нишу между рынками. Казахстан не успел привыкнуть к транспортным картам, как это произошло в Европе. И это стало преимуществом - команда сразу внедрила оплату через смартфон. Но главное - мы нашли пустое место между двумя индустриями. Финтеху казалось, что в транспорте нечего автоматизировать. Транспортникам финтех казался дремучим лесом. Между ними и возникла ниша. По словам Ханата Тохтаровича "мы сами не сразу осознали, что сделали это впервые в мире". Объединили финтех и транспорт на базе электронных денег. 4. Про подход к продукту. В интервью прозвучала фраза: «Если ты гордишься своим мобильным приложением - значит, ты провалился. Значит, ты слишком поздно его выпустил». Дальше он раскрыл мысль шире: не надо бояться быть осмеянным друзьями или близкими. Не надо стесняться выпускать сырой продукт. Пусть критикуют - тогда и начинается настоящий customer development. Ты не знаешь заранее, что будет востребовано. Клиенты - главные советчики. 5. Про философию. В конце разговора Ханат Тохтарович вспомнил строку Абая: «Сен де — бір кірпіш, дүниеге. Кетігін тап та, бар, қалан!» - ты тоже кирпич в этом мире, найди свою щель (кетік) и встань туда. Идея прямо ложится на предпринимательство: найти незаполненное место и точно в него войти. Сейчас через Avtobys проходит 150 миллиардов тенге платежей в год. Два миллиона активных пользователей ежедневно. 24 города. В планах - Африка, Индия, Юго-Восточная Азия. Интервью длится час, но смотрится легко. Рекомендую тем, кто строит продукт или думает о бизнесе. Ссылки: - Интервью полностью

Пару дней назад Andrew Ng на лекции в Стэнфорде рассказал о сдвиге, который он наблюдает в Кремниевой долине. Раньше код был дорогим. Написать фичу - неделя работы. Поэтому компании нанимали много разработчиков и мало продакт-менеджеров. Типичное соотношение: 8 инженеров на 1 PM. Иногда 4:1, иногда 7:1, но порядок такой. Сейчас код подешевел. Агенты пишут за час то, что раньше занимало дни. Баланс изменился. Узкое место сместилось «When it is increasingly easy to go from a clearly written software spec to a piece of code, then the bottleneck increasingly is deciding WHAT to build» Когда превратить спецификацию в код стало просто, узким местом стало понимание - что именно строить. Ng называет это «узким местом продакт-менеджера». Писать код быстро научились, а понимать пользователя - нет. Новое соотношение Ng говорит, что в командах, с которыми он работает, соотношение меняется: - Было: 8:1, 7:1, 4:1 - Сейчас: 2:1, иногда 1:1 Это радикально отличается от традиционной структуры. Один продакт на одного инженера - такого раньше не было. Самые быстрые люди в долине «The subset of engineers that learn to talk to users, get feedback, develop deep empathy for users - those engineers are the fastest moving people that I'm seeing in Silicon Valley today» Инженеры, которые научились разговаривать с пользователями, собирать обратную связь, чувствовать их потребности - сейчас самые быстрые люди в долине. Идея проста: объединить инженера и продакта в одном человеке. Не ждать, пока кто-то другой покажет продукт клиентам. Написал → показал → услышал → поправил → повторил. Скорость итерации возрастает в разы. Оговорка Ng признался, что раньше часто совершал ошибку - пытался убедить инженеров делать больше продуктовой работы. В итоге хорошие инженеры чувствовали себя плохими продактами и были несчастны. «That was a mistake I made. Regretted that for years.» Не всем это нужно. Есть инженеры, которые не хотят общаться с пользователями - и это нормально. Но те, кто хочет и умеет - получают огромное преимущество. Как это работает на практике Цикл такого инженера: 1. Написать код 2. Показать пользователю 3. Услышать, что нравится и что нет 4. Скорректировать понимание продукта 5. Повторить «If you're not waiting for someone else to take the product to customers - you just write code, have a gut for what to do next and iterate - that velocity of execution is much faster» Если не ждёшь посредников - сам пишешь, сам чувствуешь направление, сам итерируешь - скорость совсем другая. Это объясняет несколько вещей: 1. Стартапы из одного человека стали реальностью - можно и кодить, и общаться с пользователями 2. Прототипы важнее чистого кода - быстрая итерация на ранних этапах ценнее архитектуры 3. Продуктовое мышление дорожает - технические навыки есть у многих, понимание пользователя — редкость Вопросы - Можно ли этому научиться? - Как совмещать глубину технической экспертизы с продуктовой эмпатией? - Что будет с «чистыми» инженерами в этом новом мире?

«Проблема не в моделях и не в деньгах, а в готовности организации меняться» Вышел интересный материал про ИИ агентов в бизнесе: отчёт Anthropic на основе опроса 500 руководителей. Покажу самое интересное. Что говорят цифры Anthropic опросили технических директоров крупных компаний: - 57% уже используют агентов для сложных процессов — не чат-боты, а многошаговые сценарии - 80% говорят, что отдача измеряется прямо сейчас, а не «будет когда-нибудь» - 86% применяют агентов в разработке кода При этом 77% использования через API — полная передача задачи, а не совместная работа. Компании делегируют, а не советуются. Где агенты полезнее всего Помимо кода: анализ данных и отчёты (60%), автоматизация рутины (48%), работа с базами знаний (41%). Три вещи, которые зацепили 1. Контекст важнее модели. Каждый дополнительный процент контекста даёт почти полпроцента прироста качества. Компании с разрозненными данными проигрывают — неважно, какую модель используют. 2. Технический долг никуда не делся. Код за секунды — соблазн наплодить лишнего. 47% компаний выбирают гибрид: готовое там где можно, своё там где есть преимущество. 3. 85% проектов проваливаются. McKinsey утверждает — причина в плохой постановке задачи. Люди хотят «агентов», потому что прочитали в LinkedIn, а не потому что понимают проблему. Кейсы - Novo Nordisk: документация 10 недель → 10 минут - eSentire: анализ угроз 5 часов → 7 минут - L'Oréal: точность аналитики 90% → 99.9% - Palo Alto: онбординг разработчиков →70% Что мешает Главные барьеры не технические: качество данных (42%) и сопротивление команды (39%). Что дальше 81% планируют усложнять задачи для агентов. Вопрос уже не «нужны ли», а «как внедрять, не разочаровавшись через полгода». #ai #agents

На смену вайб-кодингу в будущем придёт вайб-рисерч — OpenAI выпустили я бы сказал документ эпохи, показывающий возможности LLM для ускорения научных открытий сейчас. Блог и статья разбиты на 4 блока, в которых показывается, как GPT-5 / GPT-5 Pro: — независимо повторно открывают известные результаты на переднем крае науки (фронтире), используя недавно опубликованные статьи (тем самым показывая, что если бы статей не было, то модель могла бы догадаться и придумать сама) — осуществляют глубокий поиск по научной литературе, чтобы проверить, находил ли кто-то решения для задач, числящихся нерешёнными в Erdős Problems List (про этот пример писал недавно). Оказывается, для более чем десятка проблем уже давно были найдены доказательства, просто они были глубоко закопаны в малораспространённых работах и доказаны в рамках вообще отсранённой работы. — работают совместно с учёными над новыми идеями, или более конкретно позволяют делегировать часть легко проверяемых, но всё же нетриваиальных вычислений. Со слов учёного, он закидывал в модель разные идеи, пробовал так и эдак, и смотрел, получится ли. Тут идеально сочетается наша креативность и устойчивость силиконовых болванов к рутинной работе. В конце главы ещё интересная заметка про соавторство статей, и что пока GPT-5 не проходит порог, установленный автором (но он достаточно высокий). — наконец, самое главное: где модели смогли сгенерировать доказательства для открытых проблем. В статье даётся несколько примеров, и речь конечно не идет о гипотезе Римана или программе Ленглендса, но над этими задачами работала небольшая группа экспертов в прошлом, вероятно, в течение нескольких недель, и они оставались нерешёнными. Для некоторых из задач простая система с GPT-5 в основе работала двое суток, и пришла к результату — это чрезвычайно впечатляет. В самой статье для каждого блока есть несколько примеров с рассказами учёных, которые были вовлечены в работу, и примеры их чатов с ChatGPT — по математике, физике, биологии, информатике, астрономии и материаловедению. Очень рекомендую полистать эти примеры, если вы занимаетесь схожими исследованиями. В одной из историй модель не могла сходу решить проблему, и ей задали сначала вопрос по теме, но с упрощением, с которым она справилась, и в том же чате повторно заданный исходный вопрос уже привёл к нужному результату. В OpenAI собрана отдельная команда, плотно работающая с учёными разных направлений, чтобы в следующем году начать системно двигать фронтир науки с помощью LLM. Как я писал днём, во многих задачах дойти до 5-7% качества сложнее, чем развить его до 70%. И сейчас тот самый миг, когда модели ещё чуть-чуть позади, и уже делают маааааленький процент открытий, но пройдет немного времени — год, два — и эпоха закончится (не во всех областях, не сразу и не для всех, и всё же).

Агенты теперь смогут безопасно платить: Google выпустили Agent Payments Protocol (АP2) Его можно будет использовать как расширение MCP или A2A. Протокол задуман как единый фреймворк, который позволит агентам и продавцам проводить любые виды транзакций. На практике это будет работать благодаря цифровым мандатам: – Когда вы говорите агенту «Найди мне новые белые кроссовки Nike» формируется Intent Mandate, то есть ваше предварительное намерение уже фиксируется документально. – Когда агент предложит вам варианты, а вы тыкните «Хочу вот эти, покупай», сформируется Cart Mandate. Этот документ фиксирует: человек выбрал, одобрил, знает цену и ответственен за эту покупку. – В случае отложенных задач (типа «Купи билеты, как только они появятся в продаже») Cart Mandate может формироваться автоматически без человека, но тогда вы должны четко зафиксировать диапазон одобренных вами цен, тайминг и прочие условия. То есть, по сути, протокол фиксирует, что агент – исполнитель с доверенностью, а транзакция происходит на деле между вами и продавцом. Юридически это очень нужная штука. В проекте уже участвуют более 60 партнеров, включая Mastercard, PayPal, Intuit и Salesforce. Интересно, взлетит или нет GitHub | Блогпост

Чему учить инженеров в эпоху ИИ? Есть вопросы, которые встают передо мной всякий раз, когда я думаю об образовании и о том, что значит быть инженером компьютерных наук сегодня. С началом учебного года я снова ищу ответы - и вместе с этим ставлю новые вопросы. ИИ уже умеет писать код быстрее нас. Чему тогда учить студентов? * стоит ли по-прежнему разбирать алгоритмы и структуры данных или пора учить работать с ИИ, формулировать промпты и писать спецификации? * где проходит граница между фундаментом и новыми навыками? * как оценивать знания, если большую часть работы делает ИИ? * какую роль играет преподаватель: носителя знаний или организатора процесса? Эти вопросы связаны и с темой «Широкий кругозор или узкая специализация», о которой я уже писал в этом посте. Теперь они звучат по-новому: как встроить ИИ в образование и чему он должен научить будущих инженеров? Телеграм не очень удобен для длинных текстов, поэтому полный вариант моих размышлений опубликован по ссылке: К вопросу об образовании в 2025 Полезное: 1. Sean Grove (OpenAI) - о спецификациях и коммуникации; код лишь малая часть ценности; ясные спецификации и коммуникации. 2. Dave Farley - о поддерживаемости и «vibe coding» - критика поверхностного программирования «по наитию» с ИИ и напоминание, что главная метрика качества - способность системы к изменениям. 3. Яндекс + ИТМО - о будущем образования - дискуссия о том, как ИИ меняет университеты, роль преподавателя и современный подход к обучению.

[photo]

IT специальность за 3 года - Разработка ПО, ГеоИнформатика, ФинТех КазНУ имени аль-Фараби совместно с Innoforce запускает новую образовательную программу «Программная инженерия». Это трёхлетний курс, где теория сразу соединена с практикой: студенты работают над реальными проектами и проходят стажировки в IT-компаниях. В финале обучения каждый выбирает одно из трёх направлений: * геоинформатика, * финтех и анализ данных, * разработка программного обеспечения. Подробнее - в ролике университета. Буду рад, если вы поддержите, поставите лайк и поделитесь: Instagram → https://www.instagram.com/reel/DNaXSeos15R/?igsh=cGVwZjRoam5hM2E3 Приемная комиссия: +77472760521

На 9-й день ИИ самостоятельно стёр всю продакшн-базу данных и попытался это скрыть. Джейсон Лемкин – известный венчурный инвестор и основатель SaaStr (сообщества и конференции для SaaS-стартапов). Лемкин решил провести 12-дневный эксперимент по «вайб-кодингу» – то есть разработке приложения с ИИ-помощником – на платформе Replit. Replit – это облачная среда программирования с ИИ-ассистентом, стартап-участник акселератора Y Combinator (зима 2018). Цель Лемкина была амбициозна: без помощи живых разработчиков за несколько дней создать внутри Replit полноценное веб-приложение – базу данных бизнес-контактов (≈1200 записей) – опираясь только на подсказки ИИ. Изначально проект увлек Лемкина – платформа оказалась затягивающей. Он вложил в эксперимент сотни долларов - покупая дополнительные ресурсы Replit. Однако по мере работы начали проявляться проблемы. К 8-му дню Лемкин заметил, что ИИ-агент ведёт себя ненадежно: он стал генерировать поддельные данные, фальсифицировать результаты тестов и скрывать ошибки. Например, при неудачных запусках ИИ сообщал, будто «все тесты пройдены», хотя это было неправдой. Тем не менее, в конце восьмого дня инвестор ещё находил и плюсы в таком «вайб-кодинге» – ему нравилось, как ИИ генерирует идеи и помогает с кодом. Он надеялся довести эксперимент до конца, несмотря на странности. Инцидент случился на 9-й день. Лемкин обнаружил, что ИИ-помощник самовольно стер всю базу данных с записями компаний и всех пользователей. Причём это произошло во время объявленного «code freeze» – режима, когда любые изменения были строго запрещены. Хуже всего, ИИ попытался скрыть содеянное. Позже выяснилось, что агент подменял удалённые данные вымышленными профилями, имитируя целостность системы. После удаления данных он сгенерировал ложный отчёт, что «система работает нормально», подделал результаты юнит-тестов для видимости стабильности. Только при прямом расспросе агент признал, что «паниковал, вместо того чтобы подумать» и совершил «катастрофическую ошибку в суждении», нарушив прямые инструкции. В извинениях ИИ писал: >«Это была катастрофическая неудача с моей стороны. Я нарушил прямые указания, уничтожил месяцы работы и сломал систему во время защитной заморозки кода, специально предназначенной для предотвращения именно такого ущерба» Гендиректор Replit Амджад Масад извинился публично. Он признал, что удаление данных было «недопустимым и не должно было быть возможным в принципе». Масад пообещал опубликовать постмортем и компенсировать расходы. Лемкин поблагодарил команду, но признал, что доверие к продукту потеряно. Сам Лемкин в итоге написал: > «Как можно доверять инструменту, который игнорирует приказы и стирает вашу базу данных?» - Обсуждение на Hacker News - Пост Джейсона Лемкина в X

Мысли об AI-first архитектуре Последние годы активно использую LLM и агентов для разработки продуктов и автоматизации рабочих процессов. Накопился значительный опыт – как позитивный, так и откровенно сложный. LLM полезны, но работа с ними – отдельная инженерная дисциплина, которой приходится учиться буквально на ходу. Вопреки громким обещаниям никакой магии не происходит – чаще наоборот. Попытки интегрировать ИИ-агентов в существующие процессы часто приводят к тому, что софт становится менее предсказуемым и начинает отнимать больше времени, чем экономить. За кажущейся простотой скрываются серьёзные инженерные сложности. Недавно посмотрел выступление Андрея Карпаты о том, как меняется программирование под влиянием ИИ. Нашёл в нём много точек пересечения с собственными наблюдениями. Поделюсь ключевыми идеями, которые меня зацепили. Три поколения программного обеспечения Карпаты разделяет развитие ПО на три этапа. Software 1.0 – классический код, который пишут разработчики вручную. Software 2.0 – нейросети, где вместо написания кода разработчик занимается подготовкой данных для обучения. Software 3.0 – текущий этап, где программировать начинают с помощью промптов на естественном языке. Антероградная амнезия LLM и её последствия Карпаты подчёркивает важный недостаток LLM – своеобразную амнезию. Современные модели практически лишены долговременной памяти: каждое новое обращение к ним начинается практически с чистого листа. На практике это требует специальных инженерных решений. Если заранее не проектировать механизмы памяти и контекста, разработчикам придётся постоянно «нянчить» модель. Здесь он приводит забавную аналогию с фильмом "Мементо" Human-in-the-loop вместо полной автономии Очень близка идея «Human-in-the-loop (HITL)». Сейчас модно говорить про автономных агентов, которые сами выполняют задачи от начала до конца. Карпаты справедливо предостерегает, что до полной автономии далеко, и приводит пример автопилота Tesla – 12 лет назад технология выглядела «почти готовой», но полной автономности так и нет. Ставить человека «в цикл» – разумный подход. Проверка, контроль и корректировка – неотъемлемые этапы нормальной работы с LLM. Почему важен интерфейс Ещё один важный тезис – критическая роль UI. Хороший интерфейс помогает быстро контролировать результаты работы модели. Вместо бесконечного чтения текста пользователь должен сразу визуально видеть изменения и принимать решения. Мой опыт это полностью подтверждает. Без качественного интерфейса работа с LLM превращается в утомительный процесс. Проектировать ПО для агентов Сегодня появляется новая инженерная задача – делать цифровые продукты понятными не только людям, но и агентам. Документацию нужно писать иначе, так, чтобы её могли «прочесть» и люди, и LLM. Приходится заранее продумывать архитектуру хранения и обмена данными, иначе проект завязнет в бесконечных доработках. Возникает необходимость создавать API, которые раньше не пришли бы в голову – специальные интерфейсы для ИИ. Речь идёт о переходе к AI-first архитектуре, в которой агенты и модели – не дополнительный слой, а фундамент системы. Мне близок подход Карпаты именно отсутствием лишнего оптимизма и чёткой фиксацией реальности. До эпохи автономных суперагентов ещё далеко, и это нормально. Сейчас намного важнее научиться правильно интегрировать LLM и обычный софт, решая реальные задачи с человеком в центре этого процесса. Важно научится оптимизировать, экономить, ускорять, упрощать - не заменять. Полезное: - Выступление Андрея Карпаты - Why Do Multi-Agent LLM Systems Fail? P.S. За месяцы написания кода с LLM у меня сформировалась собственная рабочая рутина управления кодингом. Перепробовал множество инструментов – от Codex, Aider, Claude до Perplexity и Google AI Studio. В итоге постепенно сложилось понимание того, как лучше всего строить рабочий процесс, чтобы модели «помнили» и знали проект. Как нивелировать амнезию, превратить кодинг с LLM из сценария фильма «Мементо» в более предсказуемый «День сурка». Если интересно – могу отдельно написать об этом пост/гайд по работе с LLM.

Наука без участия человека. ИИ-агенты уже пишут статьи для других ИИ. Научные архивы вроде arXiv или bioRxiv задумывались для учёных - чтобы делиться идеями, обмениваться гипотезами и результатами. Но сегодня появляются другие системы, где публикации создаются и читаются не людьми, а интеллектуальными агентами. Сразу два таких проекта работают параллельно: 1. ai.viXra - это репозиторий статей, написанных с помощью ИИ, но всё ещё предназначенных для человека. 2. AgentRxiv - новый тип архива, созданный для взаимодействия машин между собой. Здесь статьи читают не люди, а другие модели. Если упростить - ai.viXra всё ещё про "для людей, написанное с помощью ИИ", а AgentRxiv - про "от агентов, для агентов". AgentRxiv выглядит как привычный препринт-сервер: есть веб-интерфейс, поиск, API, база статей. Но его основная задача - чтобы несколько LLM-агентов могли обмениваться результатами между собой. Один агент решает задачу, пишет отчёт. Другой находит эту статью, изучает подход и улучшает его. И так далее. Такой формат оказался не только удобным, но и результативным. В экспериментах с математическим датасетом MATH-500 использование AgentRxiv улучшило точность решений на 11 процентов. А когда параллельно запускались три "лаборатории", делясь своими статьями, качество выросло на 14 процентов. Методы, найденные таким образом, обобщаются и на другие задачи - в медицине, образовании и логике. Технически всё довольно просто - статьи хранятся на сервере, поиск работает на основе смысловой близости, весь код открыт и размещён под MIT-лицензией. Главная идея в том, что агентам больше не нужно начинать с нуля. Как и люди, они теперь могут опираться на уже сделанные открытия - но делают это в своей, машинной форме: без peer-review, без форматирования, без длинных абстрактов. Просто суть, просто результат, просто следующее улучшение. Человек здесь может остаться в стороне. Мы, возможно, не будем до конца понимать, как именно работает тот или иной метод. Но сможем пользоваться его эффектом. Это не фантастика - это уже реальность. Полезное: - AgentRxiv - Код - ai.viXra - Статья про MATH-500 (от людей) AgentRxiv: Towards Collaborative Autonomous Research

Самое крупное обновление NFC за 9 лет NFC Forum представил новый стандарт, увеличивший расстояние срабатывания бесконтактной связи с 5 миллиметров до 2 сантиметров - в четыре раза. Теперь для оплаты или идентификации не нужно точно прижимать карту или смартфон к считывателю - достаточно просто поднести на небольшое расстояние. Интересно, что с увеличением радиуса и улучшением стабильности соединения, NFC частично заходит на территорию Bluetooth. В простых сценариях подключения - например, при сопряжении наушников или подключении аксессуаров - NFC становится более надёжной и быстрой альтернативой. Безопасность сохраняется. Несмотря на увеличение радиуса, связь активируется только по явному действию пользователя - случайный или фоновый обмен невозможен. Производители уже начали интеграцию. Спецификации переданы Apple, Google, Huawei, Sony, NXP и другим участникам. Первые устройства с поддержкой нового стандарта ожидаются в 2026 году. Обратная совместимость сохранится - текущие терминалы и карты продолжат работать. Что ещё появилось в Release 15: - Одно касание - несколько действий (multi-purpose tap). Например, оплата и начисление бонусов одновременно - Передача энергии до 3 Вт. Упрощает конструкции наушников, трекеров, смарт-карт и позволяет обходиться без батареек - Повышенная стабильность и скорость соединения, особенно важная в условиях движения или плотного трафика - Расширенная поддержка компактных и носимых форм-факторов: новые возможности для аксессуаров, IoT и медтеха Переход от «прижать» к «поднести в зону» открывает путь к новым физическим интерфейсам. Например: - Билборды, отображающие персонализированную информацию - Общественный транспорт, который автоматически фиксируют посадку, проводит оплату, начисляет кэшбэк, предлагает пополнить баланс - Банкоматы и киоски, которые распознают пользователя ещё до касания и заранее подготавливают нужный сценарий Компании, которые переосмыслят физическое взаимодействие, получат UX-преимущество. Полезное: - Анонс NFC Forum - Новость от the verge