Оно пока выглядит как курьез, но в действительности любопытный эксперимент. В прошлом августе гонконгская игровая компания назначила директором своего отделения алгоритм, на всякий случай с именем: Тэнг Ю.
В задачи ИИ-директора входило: изучение верхнеуровневой аналитики и принятие решений на ее основе, анализ рисков, поддержание эффективной рабочей среды для кожаных мешков.
Явным плюсом руководителя нового типа являлись отсутствие зарплаты, бонусов, золотых парашютов и т.д.
Если судить по курсу акций компании в сравнении с индексом гонконгской биржи, руководитель справился: за полгода акции вели себя постоянно лучше индекса.
Без деталей, конечно, этот кейс анализировать сложно и восхищаться рано, но сам прецедент показывает, что не только рутинные функции при определенных обстоятельствах можно с успехом автоматизировать.
Впрочем, после нескольких месяцев опыта общения с продуктами на основе LLM, удивления особо и нет. Говорите, что эти модели склонны галлюцинировать и тем опасны? Вы просто мало общались с белковыми CEO:))
https://thehustle.co/should-we-automate-the-ceo/amp/

Иногда природа создает такое, что не получилось придумать ни авторам технологических стартапов, ни даже генеративным алгоритмам:)
На острове Тринидад геологи обнаружили странные камни с цветными включениями; анализ показал, что эти цветные фрагменты — расплавленные и потом вплавившиеся в камни остатки синтетических рыболовных сетей, которые загрязненный океан выбрасывает здесь на берег. Для таких объектов уже даже существует название: по аналогии с конгломератами их называют пластигломератами.
Авторы ужасаются факту воздействия человека на геологию Земли, что выглядит странно по двум причинам:
Во-первых, деятельность человека, меняющая русла рек или создающая колоссальные карьеры, на геологию Земли влияет давно и намного сильнее.
Во-вторых, природный способ связывать пластик скорее должен радовать, чем пугать:)

Прекрасная статья, на которую Ваня Ямщиков ссылался, когда мы в воскресенье писали подкаст. Теперь, когда слова “большая языковая модель” уже почти все выучили, пришло время учить термины “мультимодальность” и “эмерджентность”:)
Про мультимодальность у меня уже было тут несколько постов, а вот эмерджентность, свойство сложных систем демонстрировать поведение и способности, которые ни отдельным элементам, ни малым их наборам не даны, нам еще подкинет сюрпризов.
“Despite trying to expect surprises, I’m surprised at the things these models can do” — замечает по этому поводу один из исследователей.
Если говорить совсем просто, то у больших моделей начинают проявляться свойства, которые никому никогда не приходило в голову связывать с анализом текстов, и потому от них правильно ожидать прорывов, которые отнюдь не планировались их создателями.

Трёп Себранта
-=Выпуск 72=-

LLMs как герои 23Q1; готовимся встречать мультимодальность, эмбодимент и эмерджентность

На фоне уже который месяц не спадающего интереса к ChatGPT и прочим большим языковым моделям я снова позвал в Трёп любимого собеседника — Ваню Ямщикова (у которого, кстати, есть свой великолепный подкаст "Проветримся!"). Много лет он занимается обработкой естественного языка и языковыми моделями не только как практик, но и как ученый. Потому и его взгляды на происходящее и его ожидания от будущего, да еще в задорном и полемичном стиле изложенные, — очень своевременное и очень освежающее слушание.
Ссылки на упоминавшиеся в разговоре публикации -- на основной странице подкаста
На Apple Podcasts
Здесь тоже файл, по традиции

ModelScope Text-2-Video: Китайский опенсоурс разродился открытой моделькой для генерации видео по тексту

Это первая диффузионная text2video модель с открытым кодом и опуьликованными весами (1.7 млрд параметров).

Отдельный респект идет Шаттерстоку, данные с которого по всей видимотси использовались для тренировки модели 😂.

Чтобы запустить локально потребуется 16 GB RAM и 16 GB VRAM: инструкция. Пока генерит видео только 256x256.

Ну что, давайте побыстрее заполним интернет проклятыми видео!

Demo
Model weights

@ai_newz

Сегодня (вторник 21-го марта) в 18-00 по Москве попробую новый жанр - участие в прямом эфире телеграмм-канала:)
что будет: дискуссия в прямом эфире
название: AI: внедрять нельзя игнорировать
где: в телеграм-канале Epic Growth https://t.me/epicgrowth
Кто не сможет посмотреть прямой эфир, но захочет взглянуть запись — обещают все через сутки выложить на https://www.youtube.com/@EpicGrowthChannel

Мультимодальность в каждый дом! Microsoft продолжает держать темп: вот только что они начали раскатывать в Bing и Edge возможность прямо в рамках чата генерить картинки с помощью DALL-E. Для тех, до кого не докатился обновленный чат, есть отдельный адрес https://www.bing.com/create где можно погенерить графику просто по запросу (пример результата -- на картинке в этом посте; prompt: geek girl amazed by Image Creator capabilities). Не до всех стран докатилось, может пригодиться VPN:)

Как и следовало ожидать, в гонку сервисов по ИИ-генерации изображений включился Adobe: объявлено о бета-тестировании сервиса Firefly. Поскольку компания в первую очередь обслуживает коммерческий рынок, особо подчеркивается, что абсолютно все изображения, на которых нейросеть обучалась, лицензионно чисты и их использование в коммерческих продуктах не влечет юридических рисков. Так что как минимум с одним возражением против серьезного промышленного использованиия сгенерированных изображений, «это все плагиат, неэтично и юридически стрёмно» разобрались на практике.
https://petapixel.com/2023/03/21/adobe-firefly-is-a-text-to-image-generator-that-didnt-steal-your-work/

Что Acer решил выпустить нечто AI-powered, не очень удивительно; AI — это нынче такой продающий префикс; грех сильной компьютерной фирме не воспользоваться. А вот что это нечто окажется электровелосипедом, меня несколько удивило.
Байк, кстати, выглядит достаточно красиво и неожиданно, в меру набит датчиками, процессорами и софтом, но обошелся без дисплея — вместо него есть док для смартфона, на котором все и будет отображаться. Чисто транспортные параметры тоже ничего для города (а это явно городская модель): 110 км пробега на одной зарядке, макс скорость 25 км/ч, батарея съемная и заряжается сутки.
Единственно, название модели произносить вслух в русскоязычной среде надо с осторожностью: ebii
https://www.cyclingweekly.com/products/computer-company-acer-is-making-an-ai-powered-bike-and-its-got-some-wild-features

⚡️GitHub обновляет систему Copilot, интегрируя модель GPT-4 от OpenAI и добавляя поддержку чата и голоса. Новый Copilot X предлагает взаимодействие с чат-ботом, напоминающим ChatGPT, в редакторах кода. Благодаря этому чат-боту, Copilot сможет распознавать, объяснять код, рекомендовать изменения и исправлять ошибки. Copilot X предусматривает использование ИИ на каждом этапе разработки.

GitHub Copilot Chat может анализировать код на наличие уязвимостей, объяснять работу блоков кода и даже помогать в рефакторинге или добавлении комментариев. Copilot будет интегрирован с IDE, обеспечивая быстрый доступ к командам.

Система будет поддерживать голосовое управление через функцию "Hey, GitHub!" и использовать комбинацию моделей OpenAI для нового чата и существующих функций автодополнения. Обновленный Copilot также поможет с AI-генерированными ответами на вопросы о документации кода.

Новая система Copilot X будет изначально доступна только в приложениях Microsoft Visual Studio и Visual Studio Code, но планируется расширить на другие IDE в будущем.

Похоже, крутые новости каждый день - теперь норма🤓
https://www.theverge.com/2023/3/22/23651456/github-copilot-x-gpt-4-code-chat-voice-support

Тут на неделе выступил главный производитель лопат в текущей золотой лихорадке Дженсен Хуанг, Nvidia CEO.
Он не только похвалился, что лично доставлял компоненты для того суперкомпьютера, на котором нынче учатся продукты OpenAI, но и отметил, что в его планы входит не только БигТех сделать полностью зависимым от своей продукции, но и любую индустрию, ибо машинное обучение нынче везде.
Вот кто б в начале века сказал, что в области процессоров производитель периферии может покуситься ключевую роль производителя центральных процессоров:)) Эпитет несколько потускнел.
…Тридцать лет мужик на посту начальника компании, которую сам же и основал. И явно не собирается никуда уходить, да и с чего бы при таких успехах. Кстати об обязательности ротации кадров, обновлении руководства и т.д. 🙂
So, I think for as long as I believe I can do that, I don’t know exactly for how long that’s gonna be, but 3 to 4 decades I’d say. Another 4 decades I’d be robotic and maybe another 3 to 4 decades after that. Hopefully, I get to enjoy this for a very long time.
Есть ощущение, что он не совсем шутит:))

В двух совершенно разного толка и на разную аудиторию рассчитанных изданиях почти синхронно появилась статья (сначала в The Conversation, потом ее перепечатали в FastCompany) с нетривиальным нынче посылом: не то опасно, что большие языковые модели вдруг обретут сознание (им не светит), а то, насколько мы вольно или невольно занимаемся антропоморфизацией технологий ИИ.
Обе статьи объясняют массу тревог по поводу ИИ влияние поп-культуры — ну наконец-то:)) Я уж года три твержу на разных лекциях, что Терминатор больше принес вреда и паники, чем самые дурацкие запреты и формальные ограничения.
Но ведь иначе — если задуматься над сутью LLM — придется ужаснуться тому, насколько предсказуемы мысли людей, кажущиеся оригинальными и глубокими:)
Уж лучше верить в заговор ИИ:))
…the pressing question is not whether machines are sentient but why it is so easy for us to imagine that they are.

Умеют некоторые в хлесткие заголовки и новые термины: “заря пост-поискового интернета” 🙂 Звучит красиво, но, с другой стороны, мы просто зря учились много лет разговаривать с поисковиками на жаргоне ключевых слов, а бинговский ИИ позволяет вернуться на десятилетия назад, когда в справочной ты задавал вопросы обычным разговорным языком. Оказалось, вернуться к этой древней практике приятно даже родившимся во времена развитого интернета:)

Вчерашние новости про плагины к ChatGPT показали, что у создателей есть видение, стратегии и планы — чего и близко нет у критиков, с апломбом обсуждающих якобы фундаментальные проблемы хоть недостоверности, хоть неокупаемости:)
We’re excited to build a community shaping the future of the human–AI interaction paradigm. пишут в блоге OpenAI, и они имеют право на эти громкие слова: таким шагом просто крутой сервис превращается в __платформу__, из чисто информационного становится (там где надо) вполне операционным благодаря партнерским плагинам (ведь понятно, для чего плагин, например, Expedia). А наличие уже работающих плагинов показывает, что идея не вчера родилась, а давно была в разработке как часть того самого стратегического плана создания новой платформы с возможностями, которых мы до конца не знаем, но впечатляют и уже известные. Уже руки чешутся попробовать, как выглядит связка с Wolfram, например:)

Я сюда только что перепостил свой же текст в этом канале пятилетней давности не случайно и не по ошибке.
Происходящее сейчас с продуктами OpenAI — прекраснейшая иллюстрация того, насколько актуальны и работоспособны идеи, изложенные в книге «Машина, платформа, толпа». Очень быстрая, почти мгновенная с точки зрения бизнеса, платформизация ChatGPT, целиком основанного на машинном обучении, — это просто модельный бизнес-кейс для будущих книг:)) Респект авторам книги!

Я не раз здесь и в прочих местах хвалил и рекомендовал книгу Machine, Platform, Crowd - и вот отличная новость: прошло всего-то чуть больше года, и наше издательство МИФ сподобилось выпустить ее перевод на русский. Можно даже на сайте издательства оставить свою почту, чтоб получить извещение о выходе книги в свет.
https://www.mann-ivanov-ferber.ru/books/mashina-platforma-tolpa/?buytab=paperbook
Не буду повторяться, чем хороша книга, я еще год назад об этом писал относительно подробный текст
https://telegra.ph/Mashiny-platformy-lyudi-07-30

Лонгрид на выходные — подробное расследование журналистов Reuters на тему еще одного аспекта, не очень известного широкой публике, технологической войны Китая и США. Про санкции для технологических компаний типа Huawei, про старания запретить в Штатах TikTok, про запреты на поставку в Китай оборудования для производства микропроцессоров пишут много.
Но есть еще один инфраструктурный компонент глобального интернета — подводные оптоволоконный кабели, обеспечивающие связность сети. В этой индустрии несколько лет назад возникла и набрала вес китайская компания HMN Technologies Co Ltd. Три года назад она практически вышла победителем в борьбе за контракт на прокладку и обслуживание новой магистрали SeaMeWe-6 из Юго-восточной Азии в Западную Европу.
Но тут вмешались Штаты:) Как разными способами, пугая всех угрозой глобального шпионажа со стороны Китая, контракт в итоге передали американской компании — сюжет, достойный крутой экранизации. Но пока такой фильм не снят, читайте статью:)
https://www.reuters.com/investigates/special-report/us-china-tech-cables/

Умер Гордон Мур, сооснователь Intel, предсказавший принцип развития индустрии полупроводников.

Немножко надоело читать чужие тексты про то, что с ChatGPT и подобными ему продуктами делают студенты и как к ним (и продуктам, и студентам) относятся вузовские преподаватели.
Но — спасибо ИТМО! — можно собрать вместе и тех, и других и вместе поговорить, как вуз живет во времена ChatGPT и что во всем этом хорошего. Меня позвали помодерачить этот разговор, спасибо огромное; будет, надеюсь, интересно, а кому-то даже и полезно.
Заодно так мы начнем готовиться к традиционному осеннему YAC/e, проникаясь настроениями и приглядывая интересных спикеров:))
Присоединяйтесь во вторник 28 марта к трансляции, начало в 15-00, митап продлится часа полтора.

Не так давно постил тут ссылку на великолепный текст Стивена Вольфрама о том, как устроены большие языковые модели. Со времени публикации того текста прошло немногим больше месяца - и вот Стивен публикует результат двух с половиной месяцев совместной работы команд OpenAI и Wolfram.
С самого начала Стивен сочетает слова “суперсилы” и “это лишь самое начало” 🙂
Благодаря плагину к ChatGPT у пользователя появился прозрачный доступ к Wolfram|Alfa: ChatGPT преобразует словесный запрос в запрос к Wolfram|Alfa, а получив ответ, пересказывает его словами и, при необходимости, иллюстрирует графикой.
There are lots of nontrivial things going on here, on both the ChatGPT and Wolfram|Alpha sides. But the upshot is a good, correct result, knitted into a nice, flowing piece of text.
Почитайте, очень впечатляющий текст, насыщенный крутыми примерами.
Хорошо, что Юваль Харари, на днях очередной раз нервно делившийся своими тревогами, не видел, на что способна языковая модель, которой дали доступ к языку математики и куче фактических данных, избавив ее от необходимости фантазировать там, где и без фантазий можно красиво ответить:)
И еще важнейший момент: The Wolfram plugin actually has two entry points: a Wolfram|Alpha one and a Wolfram Language one. А почему это важно — читайте статью, это не менее вкусное чтение, чем прошлый рекомендованный текст Стивена. Тут снова можно залипнуть на все выходные — и в итоге у вас закружится голова. И по делу:))
I see what’s happening now as a historic moment. For well over half a century the statistical and symbolic approaches to what we might call “AI” evolved largely separately. But now, in ChatGPT + Wolfram they’re being brought together. And while we’re still just at the beginning with this, I think we can reasonably expect tremendous power in the combination—and in a sense a new paradigm for “AI-like computation”