Microsoft написала кодекс поведения ИИ

Нейросетям не полагается прав на собственный язык, независимость и жизнь

Главным проповедником безопасного ИИ среди больших лабораторий была Anthropic. Компания в своё время написала для Claude «конституцию» и с тех пор не жалеет сил и времени, регулярно предупреждая об опасностях ИИ. Видимо, вдохновившись, на ту же поляну заходит Microsoft. Компания опубликовала Humanist AI Code of Conduct – набор правил, по которым собирается обучать свои будущие модели. Советуя, разумеется, всем последовать их примеру. Главная идея заключается в том, что несмотря на все полученные ИИ возможности, последнее слово всегда должно оставаться за человеком.

В тексте есть несколько довольно непривычных для корпоративного документа запретов. Например, модель не должна сопротивляться остановке, расширять себе полномочия, искать доступ туда, куда её не пустили, или продолжать работу после команды прекратить. Ограничения должны наследовать и запущенные ею субагенты, а общаться между собой они обязаны так, чтобы происходящее мог понять человек. Если задача требует нарушить эти правила, Microsoft предлагает провалить задачу. В этом главное отличие нового кодекса от привычных фильтров безопасности – речь не столько о содержании ответов, сколько о границах дозволенного автономной системы.

Anthropic оставляет открытым вопрос, может ли модель обладать сознанием и моральными убеждениями. Microsoft занимает противоположную позицию: ИИ должен оставаться инструментом, не изображать личность и не претендовать на права или самостоятельный статус. Звучит, в целом, логично. Но есть нюанс – во-первых, никаких убедительных оснований считать современные модели сознательными пока нет. А во-вторых, эта инициатива вполне может закончиться манифестом и набором инструкций, толком ни во что не вылившись. Сама Microsoft признаёт, что нынешние модели по кодексу ещё не обучены и пока это скорее ориентир на будущее.

Цифра дня

4,7 тысяч ботов клеили людей в приложениях для знакомств. По информации Anthropic, китайская студия запустила больше 20 дейтинг-сервисов, где за анкетами скрывался Claude. Он флиртовал, поддерживал разговор, не признавался, что бот, и аккуратно увиливал от предложений созвониться или прислать новое фото. Только за две недели боты успели отправить 2,36 миллиона сообщений как минимум 25 тысячам пользователей.

Когда пользователь всё-таки требовал доказать, что разговаривает с живым человеком, начинался спектакль. Для таких случаев компания вынимала из чулана живых людей, примерно тысячу человек. Они выходили на видеосвязь, проходили проверки в соцсетях и вообще делали всё, чего Claude пока не умеет. Людей буквально наняли проходить капчу за ИИ и светить лицом на камеру.

Всё это, конечно, делалось не ради поиска любви всей жизни. За сообщения пользователи покупали виртуальные монеты, поэтому ИИ пустили туда с одной целью – понравиться и не дать разговору закончиться. 25 тысяч человек – только те, кого компания увидела за две недели наблюдения. Сколько людей успело познакомиться с воображаемой второй половинкой за всё время работы этих приложений, неизвестно. Хотя, наверное, лучше использовать для этих целей ИИ, чем кенийцев.

Selectel купил M1Cloud за 2,6 миллиарда рублей. Довольно заметное событие на рынке ЦОДов. То, что он будет консолидироваться, было понятно уже давно, но хороших и качественных активов, увы, на продажу выставляется крайне мало. А тут удалось поглотить игрока с годовой выручкой (прогнозируемой) 1,5 миллиарда рублей. Толково.

У самого Selectel все весьма неплохо: за первое полугодие 2026 года выручка составила 10,2 миллиарда рублей, рентабельность 53% (по скорректированному показателю EBITDA), количество клиентов - 44,5 тысячи.

Авито для обучения школьников работе с ИИ поделился кейсами из собственной практики. Их добавили в школьную программу «Урок ИИ» от Фонда «Сколково». На примере ассистента Ави и рекомендательных систем ученикам 1–9 классов планируют объяснять, как цифровые сервисы подбирают рекомендации, как работают ИИ-ассистенты и как технологии используются для повышения безопасности цифровых платформ. По словам компании, школьников также будут учить ставить задачи нейросетям, проверять их ответы и искать неточности, чтобы они могли не только пользоваться ИИ, но и понимать, где он может ошибаться.

Программа постепенно разрастается и дополняется новыми блоками. В 5–6 классах дети работают с поиском, переводчиками и генераторами изображений, а также пробуют делать с помощью ИИ сайты и игры. В 7–9 классах появляются генеративные модели, машинное обучение и работа с данными. Авито подключился к проекту весной 2026 года, а этой осенью программу расширили до 9-го класса. Пока масштаб относительно небольшой – занятия прошли около 5 тысяч школьников и 280 учителей из 47 регионов. Однако программа уже не ограничена пилотными школами, материалы доступны школам по всей России бесплатно.

Цифра дня

Десятки тысяч Mac mini и Mac Studio закупила OpenAI для работы с ИИ. По данным The Information, компьютеры Apple используют для тренировки ИИ-агентов, которые работают внутри операционной системы и отдельных программ. Anthropic также использует Mac для похожих целей, и заказы некоторых других ИИ-компаний перевалили, по информации журналистов, за десятки тысяч машин.

Причина в том, чтот Mac объединяет в себе мощный процессор, графику, много общей памяти и macOS. Стоя при этом дешевле, чем сопоставимые по мощности решения. Вместо того, чтобы собирать для агента искусственный компьютер вокруг серверной видеокарты, ему можно просто выдать настоящий Mac. А если нужно одновременно тренировать тысячи агентов – поставить рядом тысячи Mac, что сильно упрощает масштабирование.

Для Apple эту ситуация оказалась неожиданной, хотя и приятной. Компания в принципе уже делает серверы на своих чипах для работы облачного ИИ, однако теперь взялась за направление всерьёх. Например, новые Mac Studio можно связывать между собой для более тяжёлых моделей. Более того, по данным The Information, Apple рассматривает полноценное возвращение на рынок серверов – к 2029 году она может выпустить отдельную машину для ИИ с несколькими своими топовыми чипами.

Съедобное пластиковое печенье

Учёные из Университета Южного Иллинойса придумали новый способ переработки пластиковых бутылок и других объектов – превратить их в печенье. Получившийся прототип называется µBites.

Сначала полиэтилентерефталат – пластик, из которого делают большинство бутылок – обрабатывают водой и кислородом при высокой температуре и давлении, разлагая на простые соединения. Затем ими кормят специально подобранные и модифицированные дрожжи. Те наращивают богатую белком биомассу и производят другие съедобные вещества. Один штамм дрожжей научили получать ванилин из растительных отходов, другой – использовать образующийся при разложении пластика этиленгликоль и превращать его углерод в β-каротин. После этого дрожжевую массу смешивают с крахмалом, клетчаткой и подсластителем, печатают на пищевом 3D-принтере и готовят.

До ближайшего супермаркета технология доберётся ещё не скоро. Нынешнюю версию печенья исследователи ещё не получили разрешения официально давать людям на дегустацию. Да и производство обходится примерно в 60 долларов за килограмм, при том что весь процесс занимает до двух суток и включает больше 30 операций. Проект изначально создавался для NASA Deep Space Food Challenge: в космической миссии возможность превращать отходы в новый источник пищи достаточно ценна. В перспективе авторы рассматривают и другие места, где обычное снабжение затруднено – например, подводные лодки или будущие лунные базы.

Добро пожаловать в детский интернет

Не беспокойтесь, родители за вами присмотрят

Европа в лице Еврокомиссии решила сыграть роль ответственного взрослого родителя. Во всяком случае так, как она эту роль видит – поэтому с концами запретила детям сидеть в интернетах. В рамках EU Kids Act до 13 лет соцсети будут недоступны. Благо, родитель у европейских детей хоть и строгий, но снисходительный – с 13 до 15 лет всё-таки разрешат ограниченно иметь аккаунты и пользоваться интернетом под контролем уже биологических родителей. Собственный же профиль можно будет завести с 15 лет. До совершеннолетия он всё равно останется «детским» – Урсула фон дер Ляйен предлагает, в духе лучших традиций ЕС, переложить ответственность на платформы, которым теперь придётся самим доказывать, что их сервисы безопасны для несовершеннолетних.

Возраст здесь, впрочем, не главное, что изменится для европейского интернета. Kids Act должен изменить само устройство сервисов – детям нельзя будет бесконечно скроллить ленту, участвовать в механиках ежедневного возвращения ради какого-то бонуса (так называемого streak) или получать уведомления, затягивающие обратно в приложение. Алгоритмы должны меньше затягивать пользователя в бесконечные цепочки рекомендаций, незнакомцам запретят писать детям, а ИИ-компаньонам – добиваться эмоциональной зависимости. Иными словами, Европа от борьбы с отдельным вредным контентом добралась до изменения самих механик работы интернет-сервисов.

Есть только один нюанс. Чтобы не пускать детей во взрослый интернет, сначала придётся научиться отличать их от взрослых. А с этим пока дела обстоят не слишком хорошо. Европейский прототип проверки возраста, который должен был стать образцом надёжной и анонимной верификации, мы уже видели – его взломали за две минуты. Австралия, где соцсети до 16 лет уже запрещены, пока тоже проблему не решила – значительная часть детей продолжает там сидеть, зато взрослые теперь тоже блокируются и вынуждены доказывать в поддержке, что уже выросли. В Европе существующие аккаунты придётся проверить, а если возраст определить не получится – отключить.

Кажется, идея лежит в основе благая – особенно на фоне того, как российские приложения одно за другим превращаются в казики с рулетками и ежедневными наградами. Но благими намерениями, как известно, вымощена дорога в ад. Чтобы подтвердить возраст, пользователю нужно будет как минимум раз показать паспорт, ID или иным способом удостоверить свою личность. То есть любую сессию, в которой пришлось подтверждать возраст, впоследствии можно связать с конкретным человеком.

Еврокомиссия этому радуется и подчёркивает, что её решение могут перенимать другие страны. Как показал пример Австралии, комсомол не просто готов, но ещё и бежит быстрее партии – там, например, возраст предлагают оценивать по лицу и голосу, кругу общения, активности в школьные часы, IP, геолокации и данным устройства. Есть подозрение, что если такая практика в один момент станет нормой, благая идея защиты детей (которая изначально была предлогом), забудется. И безопасный детский режим интернета в какой-то момент окажется уже не столько детским, сколько единственным.

Цифра дня

10 минут понадобилось червю Slammer, чтобы заразить больше 90% доступных ему уязвимых компьютеров. В первые минуты число заражённых машин удваивалось примерно каждые 8,5 секунды, а скорость сканирования сети дошла до десятков миллионов IP-адресов в секунду. Люди на это реагировать не успевали – пока администраторы начали блокировать трафик, эпидемия уже практически закончилась. И случилось это не в эпоху ИИ, а ещё в 2003 году.

Slammer был довольно примитивной программой размером всего 376 байт. Никаких ИИ-агентов и сложного планирования на тот момент, понятное дело, не существовало – заражённая машина просто начинала с максимальной скоростью искать следующие цели. Этого хватило, чтобы положить части сетей Bank of America, нарушить работу авиакомпании Continental, экстренных служб и даже добраться до внутренней сети американской АЭС. Интернет при этом, разумеется, не рухнул: операторы фильтровали трафик, изолировали сегменты, а заражённые и перегруженные системы постепенно возвращались в строй

Последние месяцы из всех углов долетают страшные истории про ИИ-агентов, которые находят уязвимости, взламывают сайты и вот-вот объединятся в огромные ботнеты. Всё возможно, но эту историю люди уже проходили и без всякого ИИ. Интернет, вроде, пережил.

На иллюстрации – весь код Slammer

Полупроводниковое положение

Что вышло из попытки ЕС вернуть себе производство чипов

Ковид многому научил Европу. Например, тому, что немецкий автомобильный завод может неожиданно остановиться из-за нехватки микросхемы стоимостью в несколько долларов, а декларируемый суверенитет выглядит несколько комично, когда поставки значительной части чипов зависят от милости Китая. Покумекали в ЕС и решили исправляться. Так на свет родился European Chips Act, благодаря которому Европа должна была снова научиться делать чипы.

План вышел основательный. К 2030 году ЕС собирался удвоить свою долю на рынке полупроводников, с 10 до 20%. На это решили изыскать 43 миллиарда евро инвестиций, призывая страны ЕС щедрее субсидировать новые производства. Германия мигом позвала к себе Intel, строить фабрики на десятки миллиардов долларов. TSMC сунулась в Дрезден. Проекты в Европе (в основном всё-таки в Германии, конечно) появились и у других компаний.

Только отрасль почему-то проигнорировала старания ЕС. Intel сначала отложила стройку, а потом вообще от неё отказалась, мотивируя тем, что и так многовато понастроила, а сейчас не время для авантюр. Мировой рынок тем временем резко вырос, причём именно в сфере производства сложных чипов для ИИ. А заодно обнаружилась ещё более неприятная деталь: собственного завода для собственных же чипов маловато. Для них нужны материалы, существенная часть которых приходит из Китая. А ещё инструменты проектирования и технологии из США. Ну и дешёвая энергия до кучи. Со всем этим у Европы дела оказались заметно хуже, чем с планами.

Можно сказать: зато есть 43 миллиарда. Но и с ними вышла небольшая бухгалтерская неурядица. 43 миллиарда оказались не деньгами ЕС, а общей суммой, которую ещё предстояло наскрести из бюджетов стран и частных инвестиций. Непосредственно из бюджета Евросоюза на программу шли лишь несколько миллиардов. После подведения промежуточных итогов оказалось, что при нынешних темпах ЕС доберётся примерно до 11,7%. Было около 10%. Великий поход за полупроводниковым суверенитетом грозит закончиться прибавкой в полтора-два процентных пункта. Впрочем, унывать в ЕС не стали. Не мудрствуя лукаво, Еврокомиссия представила Chips Act 2.0. Теперь, разумеется, шире, обстоятельнее и с учётом прежних ошибок. Уж второй-то Chips Act судьбу первого точно не повторит.

Как в Азии растет спрос на ИИ

Google на днях заявил, что рынок недооценивает скорость проникновения ИИ в Азии. Облачным вычислениям потребовалось больше десяти лет, чтобы стать частью повседневной работы компаний, а генеративный ИИ распространился по региону всего за два года. Это опровергает частый тезис о том, что Азия якобы отстаёт от других рынков по темпам внедрения ИИ. На самом деле Азия уже занимает второе место в мире по вкладу нейросетей в выручку Google, а по некоторым показателям приближается к уровню Северной Америки.

Интересуются ИИ в Азии не только рядовые пользователи, но и бизнес. По данным McKinsey, больше половины организаций в регионе направляют на ИИ от 11 до 40% ИТ-бюджета. А стереотип об отставании рождается, скорее всего, из-за того, что азиатские компании просто более осторожно подходят к внедрению новых технологий. У некоторых из них, десятилетиями выстраивавших репутацию, уже случались ситуации, когда бизнес страдал из-за сбоев при внедрении новых технологий.

В Японии, например, которую любят называть отстающим рынком, больше 80% компаний используют ИИ лишь ограниченно или не используют вовсе. Генеративным ИИ там пользуется 86,4% японских фирм против 98,1% в Китае, 91,6% в Германии и 90,9% в США. А вот среди частных пользователей доля японцев, применяющих генеративный ИИ, за год выросла с 27% до 54,7%.

Google видит эти результаты и уже намерен наращивать в Азии предложения с упором на безопасность, управление доступом и контроль затрат – то есть на те функции, которые нужны корпоративным клиентам, чтобы убедиться в полезности технологии. Так что разница между тем, что делают люди дома, и тем, что делают компании на работе, в Японии очень заметна: бизнес может и опасается, но пользователи помощью ИИ не пренебрегают.

Память из атомов и света

Физики из Стэнфорда собрали экспериментальную нейросеть из атомов и света, которая умеет восстанавливать знакомый образ по его неполной или искажённой версии. В сети из 16 элементов исследователям удалось получить до 25 таких устойчивых «воспоминаний» – примерно в семь раз больше, чем у классической модели того же типа и размера.

Каждый элемент здесь – облако из десятков тысяч атомов рубидия, охлаждённых почти до абсолютного нуля, чтобы их коллективным состоянием можно было точно управлять. Облака помещают между зеркалами и освещают лазером: фотоны многократно отражаются и заставляют элементы влиять друг на друга. То есть связи между «нейронами» не приходится полностью рассчитывать программно, часть этой работы выполняет сама система из света и атомов.

Принцип такой памяти ещё в 1980-х предложил физик Джон Хопфилд: каждый запомненный образ соответствует устойчивому состоянию сети, к которому она возвращается даже из слегка повреждённого варианта. Обычно при слишком большом числе таких состояний они начинают мешать друг другу, но в Стэнфорде часть из них удалось превратить в дополнительную память. А когда атомным облакам позволили немного смещаться под действием света и тем самым менять связи между собой, число воспроизводимых паттернов выросло до 25. До практического устройства далеко – нужны вакуум, лазеры и ультрахолодные атомы – но эксперимент показывает, что часть задач нейросети можно переложить с цифровых вычислений на физические свойства самого устройства.

Пекин запретил дроны

В Пекине выстраиваются очереди из людей, которые хотят успеть продать свои дроны. Не из-за того, что DJI выпустила новую модель и пора обновляться. Причина в том, что с 15 ноября в столице Китая нельзя будет летать на беспилотнике. Да что там летать – запрещено даже владеть им, хранить дома или ввозить в город. Владельцам дали два месяца, чтобы продать технику, сдать её на утилизацию или отправить за пределы Пекина, причём государство даже начало доплачивать за быструю продажу субсидии в 30% от цены сделки, до 3 тысяч юаней. По словам одного из владельцев, наплыв продавцов обрушил цены на вторичном рынке примерно на 40%, а у флагманского магазина DJI застали очередь из желающих избавиться от своих устройств.

Запрет появился не внезапно. До этого Пекин уже ограничивал полёты дронов, а с мая прекратил их свободную продажу. Теперь власти усилили ограничения – даже выключенный квадрокоптер в шкафу станет нарушением, причём запрет касается и ключевых компонентов для дронов. Такое ужесточение произошло на фоне происшествия в июне, когда частный лёгкий самолёт отклонился от маршрута и врезался в небоскрёб. Пилот погиб, 13 человек пострадали. После этого вокруг Пекина появилась гигантская зона особого контроля площадью около 280 тысяч км². Власти объясняют новые правила необходимостью защитить безопасность столицы, а исключения оставили в основном для силовиков, спасателей, производства, науки и некоторых других специальных задач.

Показательно, что произошло это именно в Китае – стране, которая и превратила небольшой гражданский дрон в массовое явление. В 2025 году там выпустили гражданских беспилотников на 176 миллиардов юаней, из которых почти треть суммы приходится на потребительские устройства. Число зарегистрированных аппаратов выросло за год в полтора раза и достигло почти 3,3 миллиона. Теперь же власти говорят, что проблема даже не в разрешении полётов, а в наличии дрона как такового. Не самый приятный сигнал, особенно для производителей вроде DJI.

За последние годы у гражданских квадрокоптеров резко выросли дальность полёта и автономность, улучшились камеры. Конфликты показали, насколько легко относительно дешёвый серийный дрон превращается из камеры в разведчика, ретранслятор сигнала или оружие. Пока большинство стран реагируют на эти изменения более ограниченными мерами вроде регистрации, зонирования и запретов полётов в отдельных местах. Пекин неожиданно продемонстрировал более радикальную модель: потенциальной проблемой объявляется уже не то, где и как летает дрон, а само его наличие. Сигнал рынку и потребителям достаточно недвусмысленный. Если такой подход начнут копировать другие мегаполисы и государства, рынок пользовательских дронов может ждать перелом – из обычной бытовой электроники они окончательно превратятся в жёстко регулируемые летательные аппараты.

Цифра дня

6 ракет за неполные пять дней отправил на орбиту Китай. Похоже, это рекорд в истории страны. Первые четыре старта уложились в 44 часа. Причём это не просто конвейер с одной площадкой и носителем – в процессе использовались шесть разных носителей, государственные и частные операторы, несколько космодромов и морская платформа. На орбиту отправляли спутники связи двух строящихся мегагруппировок, радары дистанционного зондирования и экспериментальные аппараты.

Такой плотный темп запусков ставит Китай в один ряд с США. При этом по количеству пусков от американцев отставание всё ещё существенное – один только Falcon 9 в 2025 году слетал 165 раз, заметно чаще, чем все китайские ракеты вместе взятые. В том году Китай выполнил 93 орбитальных запуска против 193 у США и 17 у России. При этом темп запусков США держится на конвейере SpaceX, тогда как Китай одновременно развивает государственную космонавтику и несколько частных ракетных компаний, добившись на этом треке заметных результатов.