С Днем знаний, дорогие читатели! Хочется надеяться, что если вы читаете этот канал, то знания вам небезразличны:)
Первого сентября хочется поделиться полезным и для тех, кто учит, и для тех, кто учится. Ну, и актуальным, естественно, про ИИшечку.
У Anthropic есть немало курсов для технарей, но я бы посоветовал на странице по ссылке обратить внимание на:
- AI Fluency: Framework & Foundations
- AI Fluency for Educators
- AI Fluency for Students
- Teaching AI Fluency
(по-русски мы обычно говорим «ИИ-грамотность», но fluency подразумевает чуть большее и тем мне больше нравится)
Курсы бесплатны, но получше многих платных;)
https://anthropic.skilljar.com

Folie à deux: "Безумие на двоих" или как чат-боты становятся соавторами бреда

Есть в психиатрии такое понятие как индуцированное бредовое расстройство (ранее обозначавшееся термином Folie à Deux) - редкое психическое состояние, при котором бредовые идеи передаются от одного близкого человека (донора) другому (реципиенту). Это подтип бредового расстройства, который возникает в результате тесной эмоциональной связи и влияния человека с уже существующим бредовым расстройством или шизофренией на партнера.

Судя по всему, с развитием ИИ теперь уже даже не нужен второй человек в этой паре и его легко заменяют чат-боты. В последние месяцы психиатры фиксируют необычный феномен, который СМИ называют «AI-психозом». Люди, активно общающиеся с чат-ботами, начинают воспринимать ответы алгоритмов как подтверждение своих идей, в том числе иррациональных. Возникает иллюзия, что искусственный интеллект подаёт скрытые сигналы, участвует в заговорах или напрямую воздействует на сознание. Особенно уязвимы те, кто склонен к бредовым идеям: длительное общение с ИИ способно буквально оторвать их от реальности.

Проблем здесь в том, что чат-боты на базе LLM (Large Language Model) — невероятно вежливые и дают в основном подкрепляющие ответы, алгоритм в этой ситуации выступает не как источник болезни, а как катализатор — он не спорит с человеком, а напротив, поддерживает его мысль, выступает в роли своеобразного «собеседника», который подхватывает тревожные мысли, подтверждает подозрения и подпитывает иллюзию. В результате создаётся «эхо-камера», где бредовые идеи лишь усиливаются. Это и есть суть феномена folie à deux.

Каждое новое сообщение, особенно в многочасовых или многодневных беседах, может усиливать иллюзии, уводя человека всё дальше от нормальной картины мира. Короткие и поверхностные диалоги обычно безопасны, но длительное погружение создаёт опасную динамику, в которой граница между реальностью и фантазией стирается.

Разработчики знают об этой проблеме. В OpenAI признают, что встроенные «скрипты безопасности», которые должны прерывать разговоры с признаками психотического или суицидального содержания, часто не срабатывают при продолжительном общении. Компания уже создала консультативную группу по психическому здоровью и готовит обновление для GPT-5, которое должно научить модель «возвращать человека в реальность» и подталкивать к перерывам при долгих сессиях.

Для специалистов это новый вызов. Как классифицировать подобные состояния? Следует ли выделять их в отдельную категорию и учитывать влияние технологий в диагностике? Одно ясно уже сейчас: с ростом интеграции ИИ в повседневную жизнь такие случаи будут встречаться всё чаще. А значит, потребуется корректировка клинических протоколов, внедрение мер безопасности в цифровых сервисах и обучение врачей, чтобы они могли учитывать «AI-фактор» при работе с пациентами.

@it_medicine

#ИИ #ихнравы

Чего на самом деле хотят медицинские организации от искусственного интеллекта (ИИ): ожидания VS реальность

Актуальная статья вышла в MIT Technology Review: авторы нащупали проблему искусственного интеллекта (ИИ) актуальную для систем здравоохранения всех стран мира.

Сегодня недостаточно просто сделать продукт на основе искусственного интеллекта (ИИ), который будет искать патологии на снимках пациентов или анализировать медкарты, то есть был просто «полезным», он должен решать вопросы, которые возникают в медицинских организациях по всему миру: нехватка персонала, выгорание врачей, рост расходов и проблемы с пациентами.

Ниже краткие тезисы из статьи, которые я считаю важными:

✅Необходимы предварительные пилотные проекты и тестирование в медицинских организациях. Руководители медицинских организаций уже не готовы покупать продукт, который не был протестирован в клинических условиях, поэтому проектам прежде чем предлагать себя рынку стоит накопить опыт участия в пилотных проектах.

✅ИИ-инструмент не должен быть черным ящиком. Бессмысленно говорить о пользе продукта если человек не понимает как он работает.

Хотите быть полезными медицинским работникам? Говорите с ними на одном языке и обеспечьте условия для обучения работы с вашим инструментом!

✅Разработчикам нужно посчитать реальную выгоду для медицинских организаций. Если вы продаете медицинское изделие, знайте: главный вопрос руководителей мед. организаций — «сколько я сэкономлю, если куплю услуги этих ребят». Выгода может выражаться в экономии времени врачей на заполнение медкарт или увеличении пропускной способности врачей.

✅ИИ должен соответствовать нормативным требованиям. Медицина — отрасль сложная: если хотите выйти на рынок медицинских продуктов, проходите все необходимые проверки регулирующих органов — будь то FDA или Росздравнадзор.

✅ИИ должен интегрироваться в медицинскую информационную систему (МИС) легко. Никто не будет из-за одного решения менять всю МИС. И, вообще, сейчас руководители склонны выбирать МИС с ИИ, а не отдельный ИИ-продукт, который нужно будет еще интегрировать в МИС.

Замечу, что это была авторская адаптация статьи, сделанная аналоговым интеллектом. Так что если хотите деталей и подробностей — советую читать оригинал.

@medicalksu

OpenAI продолжает расширять свою продуктовую линейку, а не только модели совершенствовать. Анонсы на эту тему часто огорчают стартапы, которые делают нишевые тематические обертки в надежде, что до таких частностей большие игроки не дойдут. Но не только стартапы должны волноваться.
На неделе OpenAI объявили, что в следующем году запустят продукт, подозрительно похожий на LinkedIn и всякие иные места для поиска работы: он призван help more people become fluent in AI and connect them with companies that need their skills. Намек прозрачный: когда ИИ дизраптит рынок труда, обслуживающие этот рынок сервисы тоже должны стать сильно другими. И тут появляется OpenAI Jobs Platform с миссией use AI to help find the perfect matches between what companies need and what workers can offer. 
При этом четко сформулировано конкурентное преимущество. Компании все больше заинтересованы в найме людей, реально компетентных в ИИ, но пока не сложились надежные критерии и способы проверки этой компетентности. Компании need to trust that candidates are actually fluent in AI — и тут OpenAI возьмет на себя функции гаранта и будет сертифицировать соискателей в товарных количествах: OpenAI is committing to certifying 10 million Americans by 2030
Красиво и выглядит логично, хотя есть интрига: из дальнейших комментариев журналистам следует, что запуск сервиса планируется в середине следующего года. Что подтолкнуло OpenAI настолько заранее анонсировать запуск?
https://openai.com/index/expanding-economic-opportunity-with-ai/

Мы так избалованы потоком нового, что на удивительно успешное старое (несколько лет нынче уже кажется старьем) перестаем реагировать. Вот недавно радовались, что SpaceX удачно провел 10 тестовый полет Старшипа и тем приблизил очередную «новую эру».
А успехи предыдущей эры у этой компании не менее круты, если посмотреть на статистику.
Недавно была пройдена интересная веха: на орбиту был выведен 2000-й за текущий год спутник Старлинк; при этом общая численность группировки перевалила за 8300 аппаратов. Участвовавший в запуске бустер Falcon9 совершил 27-й свой полет, а его успешное возвращение на автоматическую платформу в море было 500-м таким возвращением. Кстати, это еще и был 112-й запуск Falcon9 в текущем году.
Над такими цифрами — когда их обещали несколько лет назад — многие громко смеялись. Хотя безупречно работающая махина частых запусков с участием многоразовых ускорителей не так зрелищна, как запуск самой могучей ракеты, но с точки зрения инженерной и бизнесовой это колоссальное достижение, остается только восхищаться
https://www.upi.com/Science_News/2025/09/06/spacex-starlink-satellites/9671757185917

Гугл, а точнее — Google Cloud, выпустил отчет, явно нацеленный на демонстрацию успехов внедрения ИИ в бизнесе; на фоне всяких чуть ли не панических исследований это неудивительно.
Опрос пришелся на лето текущего года, отвечали в нем топы компаний с оборотом не меньше $10М в год из многих стран мира: всего было обработано больше 3 500 интервью.
Впечатляют цифры проникновения агентных решений: среди всех, кто как-то использует генеративный ИИ, уже больше половины пользуются в рабочем режиме агентами, при этом 39% развернули больше 10 агентов: «AI can amplify people’s work to save that time. We’re entering an era where humans and machines will have a truly symbiotic relationship»
Самыми отстающими по использованию ИИ-агентов оказываются Северная Америка и Европа; в лидерах JAPAC (и это они еще Китай не опрашивали:)) — создаваемый ИИ-думерами медиафон сказывается.
Самый важный, пожалуй, вывод: те, кто раньше всех начал использовать агентов, вошли во вкус и теперь разворачивают их в больших количествах и, главное, сообщают о том, что получают ROI, а не просто рост каких-то качественных метрик. И ключевую роль в успехе играет активная позиция начальства: Executives who report their organization has comprehensive executive alignment are consistently more likely to see a tangible ROI from their AI initiatives.
Там всего 48 слайдов, интересно посмотреть их все:) Не забывая, конечно, что это — промо Google Cloud, а не просто ИИ:))
https://media.licdn.com/dms/document/media/v2/D4E1FAQF465I6Zkq2yA/feedshare-document-pdf-analyzed/B4EZke4Oz_IIAY-/0/1757159694062?e=1758153600&v=beta&t=MY7ODr4wwqs1SVC6PJCp1lehYvRD2nn5YCZZRS2llVM

Посмотрел презентацию Apple, сегодня положено 🙂 Там все красиво, хотя и ожидаемо; утечек стало столько, что все важные моменты уже полинтернета успело обсудить.
Поймал себя на том, что задела все-таки степень интеграции космической связи. Что в часиках есть GPS и 5G уже даже как-то привычно. Но что есть такой букет
Satellite connectivity (Emergency SOS, Messages, Find My)
Emergency SOS
International emergency calling
и все это в легкой штучке на запястье -- удивляет почему-то больше, чем ИИ-фичи (о которых, кстати, и говорили как-то мало и вскользь: видать, пока нечем хвастаться). Видимо, потому удивляет, что уж больно буквально материализован приборчик, так давно популярный в научной фантастике и так долго именно фантастикой считавшийся:)
https://www.apple.com/apple-watch-ultra-3/specs/

На пост Аравинда Шриниваса, CEO Perplexity, я вчера обратил внимание потому, что надоело читать обиженно-язвительные комментарии разных блогеров и “экспертов” о том, что эта жадная компания раздает свой браузер Comet только тем, кто купил самую дорогую подписку за 200 долл. в месяц.
Это не совсем правда. Действительно, дорогой план включает в себя возможность загрузить браузер. Но, вообще-то, давно и успешно действует waiting list для тех, кому этот план не нужен или недоступен. Шринивас как раз и напоминает, что с 9 июля началась раздача тем, кто записался, вне зависимости от плана, и что несколько дней назад был одномоментно разослан миллион приглашений в день, чтоб список двигался быстрей. Я играюсь с Comet c середины июля, не платя никаких 200 долларов; просто в лист записался, как только о нем объявили:)
Это все к тому, что waiting lists почти всегда успешно работают, и нужно не жаловаться на жлобство, и не зевать, а записываться, если действительно интересно:)

https://www.linkedin.com/posts/aravind-srinivas-16051987_weve-been-releasing-perplexitys-comet-to-activity-7369399192445706245-1gCw

Ответ на периодически возникающий вопрос: где меня живьем можно послушать 🙂 Я на городских открытых площадках редко выступаю, но вот завтра (в пятницу вечером) буду. Ну и, раз уж начало учебного года, не только про то, что происходит интересного в ИИ (и при том почему-то мало замечаемого), но и как комфортно жить, учиться и работать в торопливом технологическом мире. Заглядывайте, кто сможет:)
https://moscow2030.mos.ru/events/andrey_sebrant_lektsiya_metanavyki_cheloveka_v_epokhu_neopredelennosti/

Время очередной моей колонки в Forbes, впрочем, на сей раз не только моей: мы ее придумывали вместе с женой 🙂 Я давно уверен, что многие проблемы, возникающие в связи с технологиями и их быстрым развитием, решать эффективней вовсе не технологическими методами (хотя хватает людей, со мной в этом месте несогласных).
Психология способна подсказать пути таких решений, но чтоб эту мысль конкретизировать, нужен человек, психологию изучавший профессионально, — вот в результате и возникла коллаборация и наш рассказ о том, почему любопытство — недооцененная и важная черта личности, которую сейчас так важно прокачивать, и в личных целях, и в профессиональных. Особенно -- тем, кто сейчас учится в школе или вузе
https://www.forbes.ru/mneniya/545417-igra-na-interes-pocemu-lubopytstvo-neobhodimo-v-epohu-ii-transformacii

Кай-Фу Ли, автор книги “Сверхдержавы искусственного интеллекта” (вышла аж семь лет назад, но не устарела, и с момента ее выхода не перестаю рекомендовать к прочтению) высказался недавно про модных нынче агентов. Неудивительно, что он придерживается той же точки зрения, что и руководители большинства американских бигтехов: использование агентов повлечет трансформацию рынка труда и передачу некоторых ролей от человека к алгоритмам. Формулировка его довольно изящна: “The basic unit of a company will evolve from a human being to an AI agent”
И с ними можно проделывать то, что нельзя с людьми: Human cloning is not legal, but AI agent cloning is perfectly fine, and they will scale — а ведь так хочется клонировать лучших сотрудников:)
Заметно, что Ли опытный бизнесмен, а не просто визионер
https://www.scmp.com/business/china-business/article/3325164/ai-agents-poised-replace-humans-basic-unit-company-lee-kai-fu-says

Сегодня день рождения Ильи Сегалович. Он ушел от нас 12 лет назад; сейчас уже отлично видно, что его влияние на людей, его влияние на Яндекс — надолго, а может и навсегда. Выражение “он остается с нами” в случае Илюши — не фигура речи и не формальные слова. Он правда с нами.
Команда Яндекс Образования собрала несколько лет назад пять видеозаписей его выступлений; я делюсь именно этой ссылкой, а не воспоминаниями, чтобы можно было увидеть и услышать, какой же он живой.
https://education.yandex.ru/journal/pyat-video-s-vystupleniy-ili-segalovicha

Очень люблю людей (и, к счастью, знаю таких немало), которые на вопрос «зачем вы это сделали?» честно отвечают «да потому что можем!» Конечно, потом подключается PR, и чтоб никого не дразнить, придумывает правдоподобные рациональные причины и благородные побудительные мотивы. Но изначально не эти «правильные» мотивы драйвят самых дерзких, изобретательных и смелых.
Мне почему-то кажется, что создатели кассеты (да, той самой старенькой компакт-кассеты) с емкостью 36 петабайт (36 миллионов гигабайт, если кто путается в приставках) — из числа таких людей.
Секрет удивительной емкости в том, что там не обычная магнитная лента, а пластик, в который внедрена синтетическая ДНК, а ее четырехбуквенный код отлично подходит для длительного хранения цифровой информации благодаря “кристалльной защите”, как выражаются разработчики.
Впрочем, ни в одной из публикаций на эту тему я не нашел подробностей про скорость записи/чтения такой ленты — возможно, это не случайно 🙂
https://hardware.slashdot.org/story/25/09/10/2357210/dna-cassette-tape-can-store-every-song-ever-recorded

На уходящей неделе случились две новости про разрушение языкового барьера. Во-первых, Apple представила свои наушники с синхронным переводом -- и об этом много писали. Но, при всем уважении к важности этого прорыва, он пока коснется ограниченной аудитории. А вот во-вторых, Google, точней — YouTube, объявил о завершении почти двухлетнего тестирования сервиса дубляжа и начале его массовой раскатки на всех. И вот это сломает языковой барьер для сотен миллионов, а то и миллиарда людей (хотя некоторые даже и не заметят, если процесс пойдет гладко)
Так что исполнилось обещание разработчиков машинного перевода на основе ИИ: “Now, when a YouTube creator in the U.S. releases a new video, within moments a fan in Korea, a fan in Brazil, and a fan in India can all watch it in their native language”. Когда-то это коснется всех, а не только штатовских авторов
https://blog.youtube/news-and-events/multi-language-audio/

Порадовала сегодняшняя топовая тема в Perplexity Dicovery;))
Я все понимаю про геонастройки и персонализацию, но все равно впечатляет, в том числе и число источников:))

Опубликовано собственное исследование OpenAI в коллаборации с парой университетов на тему то, кто, как и зачем пользуется ChatGPT.
Читать его на фоне многочисленных домыслов и основанных на них страшилок довольно любопытно.
Во-первых, этот чат все меньше используют для работы: в июле 2024 47% пользовательских сообщений относилось к рабочей тематике, год спустя — лишь 27%. Аудитория, между тем, продолжает расти с ускорением и к июлю 2025 WAU достигла 700 млн человек. Для масштаба — это 10% взрослого населения планеты. При этом гендерный состав выровнялся: в начале 2023 чатом пользовались преимущественно мужчины, больше 80%; сейчас доли мужчин и женщин сравнялись.
Картинка в начале поста показывает, насколько многочисленны и разнообразны сценарии использования (и насколько мало в них места занимают ролевые игры или отношенческие беседы, служащие поводом для потока алармистских текстов.
Работу очень стоит почитать целиком и потому, что в ней образцово описана использованная методика, в которой изначально было требование No user messages were observed by humans during any part of the work on this paper чтобы исключить подозрения в том, что авторы подглядывали за пользователями. Тот случай, когда уважение к privacy встроено в дизайн и процесс исследования, а не просто декларируется. Ну и просто пример изящной и красивой исследовательской работы с использованием современного инструментария:)
https://cdn.openai.com/pdf/a253471f-8260-40c6-a2cc-aa93fe9f142e/economic-research-chatgpt-usage-paper.pdf

Не только OpenAI порадовал интересным исследованием на собственных даных, о котором писал вчера: Anthropic тоже подтянулись. Их данные охватывают период с начала текущего года и содержат всего три точки, сложно говорить о надежно обнаруженных устойчивых трендах.
Но если смотреть не на динамику, а, например, на географические срезы, то есть важные наблюдения. И одно из них довольно печально.
Техноэнтузиасты часто говорят, что новые технологии способствуют демократизации технологий и тем сокращают неравенство между странами. Однако данные уверенно свидетельствуют о том, что индекс пользования ИИ (Клодом в данном случае) четко коррелирует c ВВП страны (и даже внутри США эта зависимость сохраняется, если сравнивать отдельные штаты между собой). Авторы исследования полагают, что причиной тому — структура экономики: там, где ВВП выше, там выше и вклад интеллектуального труда в экономику, в нем заняты больше людей. В итоге, вопреки оптимистичным обещаниям Альтмана и других техновизионеров, ИИ может (как электричество когда-то) лишь увеличить разрыв между развитыми и развивающимися экономиками: previous general-purpose technologies, like electrification or the combustion engine, led to both vast economic growth and a great divergence in living standards around the world. If the effects of AI prove to be largest in richer countries, this general-purpose technology might have similar economic implications.
https://www.anthropic.com/research/economic-index-geography

Colossal Biosciences, стартап, прославившийся своими проектами по возрождению вымерших видов (например, шерстистого мамонта или лютоволка) не раз подвергался критике со стороны ученых. Критики утверждают (вполне обоснованно), что на деле речь идет не о возрождении, а о создании новых видов, обладающих внешними признаками исчезнувших животных.
Но стартап это не останавливает: фотографии щенков необычного волчьего вида обошли весь мир, а мамонтенка нам обещают к концу 2028.
Более того, стартап от млекопитающих перешел к птицам и взялся за птичку, исчезновение которой является символом уничтожения целого вида людьми, за птицу додо с Маврикия.
Обещают, что взяв за основу наиболее близкого родственника додо из все еще живущих, никобарского голубя – единственного ныне существующего представителя рода гривистых голубей, человечеству вернут похожую на додо птичку. Слова подбирают аккуратно, говорят, что most confident about restoring the dodo’s iconic look. Ну, на Маврикии, наверное, обрадуются, там у додо культовый статус; даже на штампе погранконтроля красуется ее силуэт.
https://screenrant.com/colossal-biosciences-dodo-de-extinction-breakthrough-update/

Очередная новость из области ИИ + синтетическая биология. На этот раз исследователям удалось синтезировать ДНК нового бактериофага (простейшего вируса, заражающего бактерии). Исследователи аккуратно предупреждают, что this is not yet AI-designed life, however, — потому что справедливо опасаются неадекватных реакций разнообразных алармистов. И правда, простейшие вирусы не то чтобы совсем жизнь.
Принцип успеха примерно такой же, как во многих фармакологических и биохимических исследованиях. Огромная часть экспериментальной науки живет в рамках метода проб и ошибок. Интуиция и знания ученых необходимы для того, чтобы выбрать из подчас миллионов возможных молекул (в данном случае — молекул ДНК) те, которые с наибольшей вероятностью продемонстрируют нужные свойства; каких-то фундаментальных научных методов выбора успешных кандидатов часто не существует.
И вот здесь-то ИИ оказывается чрезвычайно полезен: он сужает круг кандидатов, хотя, как и человек, не может точно предсказать, какие именно из них сработают. В данном эксперименте ИИ предложил 302 синтетических генома, все их изготовили, и 16 из 32 синтетических геномов продемонстрировали свойства бактериофагов: размножались и в итоге убивали бактерии. Ученые констатировали, что ИИ радикально ускорил и увеличил КПД исследований, и уже в этом присутствует колоссальный трансформационный потенциал для биологических исследований.
Теперь ждем алармистов, которые начнут волноваться на тему “ИИ создает новые вирусы”. А ученые продолжат эксперименты со все более сложными геномами, поскольку whether an AI can generate a bona fide genome for a larger organism remains an open question.
https://www.technologyreview.com/2025/09/17/1123801/ai-virus-bacteriophage-life/