Юваль Харари (которого многие знают как автора «Краткой истории человечества») очень нервно отреагировал на появление ИИ-чатботов, чуть больше года назад он сформулировал жесткий тезис «ИИ хакнул операционную систему человеческой цивилизации — язык.» Компьютеры, способные к сторителлингу, нас уничтожат, как он тогда считал.
Теперь его тезисы уже не так радикальны и потому думать над ними интересней: главная мысль его свежего эссе в том, что демократические общества стали возможны только на основе информационных технологий (пусть сначала и не цифровых, пресса и радио уже создали необходимый технологический задел). Дальнейшее развитие, однако, стало уже мешать демократии: We now have the most sophisticated information technology in history, but we are losing the ability to talk with each other, and even more so the ability to listen.
Я, честно говоря, не понимаю, как его рассуждения бьются с его же собственным основным тезисом «Democracy is a conversation» Вроде ранние технологии были про одностороннее вещание, а современные как раз про возможность не только послушать прессу, но и действительно стать участником тех самых converstaions.
Впрочем, полезно и интересно самостоятельно эссе прочитать, и над прочитанным подумать, там есть над чем. В итоге, кстати, Харари формулирует вывод, с которым трудно поспорить «freedom of speech is a human right that should be reserved for humans, not bots.» Неплохое начальное условие для серьезного разговора про регулирование этих самых чатботов, особенно выдающих себя за человека.
https://www.nytimes.com/2024/09/04/opinion/yuval-harari-ai-democracy.html

Важное дополнение к предыдущему моему посту про эссе Харари. Резкий всплеск его активности в медиа не случаен, он связан с выходом его новой книги “Nexus”. Тон рецензии в The Economist восторженно-хвалебный, Харари в нем характеризуется как techno-futurist who contemplates doomsday scenarios, знаменитейший историк и автор книг, разошедшихся суммарным тиражом больше 45 млн экземпляров.
Книга начинается с переопределения самого понятия информации, которая, по мнению автора, does not represent anything, and has no essential link to truth. Information’s defining feature is not representation but connection; it is not a way of capturing reality but a way of linking and organising ideas and, crucially, people.
Понимаемая в таком свете информация отвечает за поддержания общественного порядка: Societies need both mythology and bureaucracy to maintain order.
Харари придумывает новую расшифровку для AI — Alien Intelligence. В полном согласии с представлениями масскульта, чужаки оказываются врагами: He imagines AIs creating dangerous new myths, cults, political movements and new financial products that crash the economy.
Такую книги обязательно надо читать. Не обязательно для того, чтобы согласиться, но и для того, чтобы лучше понять логику и страхи технофобов.
https://www.economist.com/culture/2024/09/06/the-information-wars-are-about-to-get-worse-yuval-noah-harari-argues

Посмотрел очередную эппловую презентацию. Более обстоятельные блогеры и масса прочих экспертов уже вовсю комментируют, и завтра еще продолжат, не мне тягаться с ними.
Но одна моя спонтанная реакция меня же самого и удивила;))
Больше всего я впечатлился не достижениями в области софта и микропроцессоров. Меня оставили равнодушными улучшизмы часов и наушников. И даже сильно получшевшие камеры порадовали, но не вызвали особых эмоций.
А вот кнопка-тачпанелька для управления камерой реально впечатлила и сильно обрадовала.
Я много и на большую камеру снимаю, и на айфон, и необходимость тыкать в экран телефона для настроек, а не использовать, как на нормальных камерах, внешние органы управления, оставляющие экран видимым, меня всегда немножко (или множко) бесила. И вот наконец-то дадут пусть хоть одну мультикнопку на корпусе!
Есть, конечно, ирония в том, что могучий смартфон начинает восприниматься как хорошеющая камера с набором дополнительных функций:))
https://www.dpreview.com/news/3945272296/apple-announces-iphone-16-and-16-pro-new-designs-and-camera-changes

⚙️ DIY

Этот деревянный журнальный столик Carpentopod ходит - у него для этого есть 12 ног.

Интересно, что программа ходьбы была сформирована эволюционным методом - в рамках написанного изобретателем ПО эволюционировали тысячи виртуальных вариаций ног, соревнуясь друг с другом. Чтобы выбрать лучшую версию, каждая получала бал "пригодности" на основе скорости ходьбы, клиренса и использования материала. Дополнительные баллы начислялись вариантам ног, у которых кончики двигались более горизонтально и более плавно в нижней трети цикла - это минимизировало подпрыгивание и проскальзывание.

Только лучшим вариантам разрешалось "смешивать гены", то есть параметры, чтобы синтезировать следующие поколения. Наряду со смешиванием, вводились генетические мутации, чтобы синтезировать принципиально новые решения и поддерживать вариации. Симуляция на C++ позволяла синтезировать десятки поколений в секунду, что позволяло видеть, как плохие первоначальные варианты превратились в высокооптимизированные.

@PROrobotics по материалам Decarpentier (по ссылке еще много подробностей, картинок и видео)

В рамках своей амбициозной миссии MAKING LIFE MULTIPLANETARY компания SpaceX запустила, наконец, несколько раз откладывавшуюся миссию Polaris Dawn. Миссия интересна в первую очередь тем, что это коммерческий полет, в ходе которого впервые непрофессиональные астронавты совершат выход в открытый космос. Корабль при этом не оборудован шлюзом: во время выхода воздух из него будет вытекать, так что запасы кислорода будут расходоваться быстрее обычного. Это накладывает ограничения на возможные задержки возврата корабля: он не сможет находиться в космосе больше недели.
Есть и еще несколько новинок для коммерческого полета: впервые в нем участвуют две дамы-инженера из самой SpaceX, впервые орбита сильно эллиптическая, то есть в наиболее удаленных от Земли ее участках экипаж сможет полюбоваться на планету с высоты около 1400 км. Журналисты найдут и еще несколько рекордных параметров, но в любом случае наблюдать за полетом всем нам будет интересно: обещают зрелищные события:)
https://edition.cnn.com/2024/09/10/science/polaris-dawn-mission-spacex-launch/index.html

Интересно, что же на самом деле происходило с боинговым кораблем Starliner, по которому было принято решение возвращать его на Землю без экипажа.
В итоге он, как сообщалось, успешно приземлился, но вот дальше началось что-то странное. С одной стороны, NASA сообщала о идеальной посадке, с другой — официально подтвердили, что ходе торможения еще один движок отказал, хоть это и не привело к серьезным последствиям. Со связью тоже было не все гладко.
Официальные представители Боинга не появились на итоговой пресс-конференции после посадки Starliner, а присутствующие специалисты NASA в ответах использовали витиеватые формулировки типа “We view the data and the uncertainty that’s there differently than Boeing does”.
Очень интересно, как сложится сотрудничество NASA и Boeing дальше: ведь по плану меньше чем через год должен состояться следующий пилотируемый полет Starliner. Состоится ли? И если нет, как поведет себя NASA в стараниях не попасть в зависимость от SpaceX как монополиста?
https://qz.com/boeing-starliner-nasa-astronauts-earth-land-problems-1851645559

В рамках слушаний представителей запрещенной у нас Meta в австралийском сенате случилось интересное откровение: на прямой вопрос “Правда ли, что если посты в Инсте и FB пользователь не помечал как приватные, то начиная с 2007 года вы их использовали для обучения ИИ?” представительница Meta кратко ответила “Correct” — хотя и поспешила добавить, что аккаунты не достигших 18 лет вообще не использовались.
Конечно, слушания касались граждан Австралии, но есть сомнения, что обучение проводилось исключительно на австралийских данных, а весь остальной мир пощадили:)
https://www.abc.net.au/news/2024-09-11/facebook-scraping-photos-data-no-opt-out/104336170

Как автолюбитель (причем регулярно в поездках арендующий разные машины), я давно привык к
ADAS — разной степени продвинутости системам помощи водителю. Они появились давно и постоянно совершенствуются. При этом я отлично понимаю, насколько больше на дороге рисков у водителя мотоцикла, но никогда не задумывался, как у них обстоит дело с интеллектуальными ассистентами вождения.
Оказалось, практически никак, что меня сильно удивило. Оказалось, лишь совсем недавно (около года назад) израильский стартап решил этот пробел восполнить, разработав Rider Dome (классный нейминг, в Израиле Iron Dome в большом почете). Это advanced rider assistance system (ARAS), где всего одна буква поменялась, но в реальности разрабатывать пришлось с чистого листа.
Первоначально потребителями были компании, которые оперируют большим парком мотоциклов для своих сотрудников (от полиции до доставщиков пиццы). Помимо снижения числа инцидентов, компания получала массу данных о езде своих сотрудников, а в случае проблем всегда располагала хорошими видеозаписями с камер ARAS.
Теперь стартап уже раздумывает о контактах с производителями мотоциклов и электробайков и рассчитывает, что и там случатся контракты.
Вот реально удивительно, что такая “очевидная” ниша долго пустовала, а производители двухколесного транспорта даже и не чесались
https://www.zenger.news/2024/09/08/rider-dome-the-advanced-ai-system-making-motorcycle-riding-safer/

Выход первых космических туристов в открытый космос на высоте 700 км над землей успешно состоялся. Двое из четырех членов экипажа провели вне корабля примерно по 10 минут, изучая поведение скафандров (классно они, кстати, смотрятся по сравнению с традиционными). Поскольку шлюзовой отсек в корабле не предусмотрен, двое других участников экспедиции находились внутри корабля в полном вакууме.
В итоге все прошло успешно и красиво.
https://payloadspace.com/spacex-polaris-dawn-crew-completes-the-first-commercial-spacewalk/

Сегодня 60 лет Илье Сегаловичу. https://iseg.ya.ru

Очередной ответ на периодически задаваемый мне вопрос “Где можно тебя послушать вживую?”. Со 2 по 4 октября в Иннополисе пройдет форум Digital Innopolis Days 2024 & Innopolis AI Conference. Спасибо организаторам, они не стали задавать тему, а предложили самому выбрать, что хочется сказать про будущее любимых технологий:)
Почитайте программу, кстати, там есть кого послушать и без меня, немало крутых спикеров, — а если живьем доехать, то можно много с кем из ценных людей пообщаться (и на роботов посмотреть).
По традиции, будет нормальная трансляция, регистрация открыта до 20 сентября для офлайн-участников и до 2 октября — для онлайн-участников.
(Промокод на скидку - PartnerDID :) )

Казалось, на фоне Google, Microsoft и даже X с их датацентрами, где счет мощнейших GPU если еще не идет, то очень скоро пойдет на сотни тысяч штук, Oracle как-то затерялся.
Но нет. В недавнем квартальном отчете Ларри Эллисон не только рассказал о хороших результатах, но и обрисовал интересное будущее своей компании.
Он полагает, что сейчас создание новой большой качественной модели с нуля обойдется в $100 млрд и 4,5 года разработки — и эти игры он оставляет другим, сосредотачиваясь в основном на инференсе, благо клиентам массово нужно именно это.
И Oracle находится в процессе создания вычислительного суперкластера, который can scale up to 131,072 Blackwell GPUs with NVIDIA ConnectX-7 NICs for RoCEv2 or NVIDIA Quantum-2 InfiniBand networking to deliver an astounding 2.4 zettaflops of peak AI compute to the cloud.
Число самих датацентров тоже будет быстро расти: от текущих 160 его планируется довести до 2000. Потребление мощности каждым из них ожидается на гигаваттном уровне и при этом без перегрузки электросетей и увеличения углеродного следа: три компактных ядерных реактора на каждый ДЦ полностью решают проблему:)
https://wccftech.com/oracle-to-deploy-a-supercluster-of-130000-nvidia-blackwell-gpus-alludes-to-a-gigawatt-capacity-data-center-that-will-be-powered-by-3-nuclear-reactors/

В альтернативной истории сериала “Во имя всего человечества” конкуренция на Луне разворачивается между миссиями двух сверхдержав: СССР и США, где-то сбоку не очень заметно присутствует Северная Корея. В нашей текущей версии наблюдаемой истории герои гонки и борьбы обещают быть частично другими: США никуда не делись, а вот место СССР явно занимает Китай (в связке с Россией). Страна официально заявила, что первая фаза разворачивания лунной базы в районе южного полюса должна завершиться в районе 2035 (то есть всего примерно через десятилетие!); а полноценная база заработает в 2050.
Рендеры ILRS (International Lunar Research Station) напоминают кадры “For All Mankind” 😉
https://www.livescience.com/space/space-exploration/china-plans-to-build-moon-base-at-the-lunar-south-pole-by-2035

Любопытная заметка про то, как благодаря развитию современных моделей ИИ растет их прожорливость в отношении вычислительных ресурсов: раньше запросы росли примерно по закону Мура, а теперь — удваиваются каждые полгода.
И это обстоятельство вновь вывело на первый план компании, которые занимаются микропроцессорами, которые долго были где-то в тени софтверных гигантов. И выяснилось, что основные идеи и принципы создания чипов не менялись десятилетиями, постоянные улучшения были, в сущности, косметическими. Этот подход себя, кажется, исчерпал:
To maintain exponential gains in performance, chipmakers need new ideas. Some, like tighter integration between hardware and software, are incremental. Others are radical: rethinking silicon or ditching digital processing for other techniques.

https://www.economist.com/technology-quarterly/2024/09/16/ai-has-returned-chipmaking-to-the-heart-of-computer-technology

Разнообразие очков смешанной реальности в последнее время радует — а учитывая их низкую в сравнении с навороченными VR-шлемами цену, еще и позволяет надеяться, что их действительно начнут покупать.
Вчера во многих технологических изданиях появились сообщения, что Snap выпустил свои новые очки Spectacles 5, выглядящие, возможно, несколько вызывающе за счет своей громоздкости, — но зато получившие очень положительные отклики.
Сейчас их целевая аудитория — разработчики, поэтому распространяют их по подписке, $99 в месяц (и при этом надо коммититься на год).
Очки полностью автономны и при этом не слишком тяжелы (226 г), СТО Snap описывает их как computing overlaid on the world that enhances our experience of the people in the places that are around us.
При этом Snap подчеркивает свое партнерство с OpenAI и соответственно, возможности мультимодального общения с тамошними моделями. Считается, что оно will help developers create experiences with real-world context about the things people see or hear (or say).
Еще одна интересная заявка на ИИ-девайс, за которой интересно следить 🙂

https://www.technologyreview.com/2024/09/17/1104025/snap-spectacles-ar-glasses/. 

https://www.cnet.com/videos/i-wore-snaps-new-self-contained-ar-spectacles-and-snap-os/     

https://techcrunch.com/2024/09/17/snaps-extremely-large-spectacles-bring-impressive-ar-to-developers-at-99-a-month/

Я много лет топил (и продолжаю топить) за пользу, а подчас и необходимость, всем читать Канемана — и работникам технологических компаний в первую очередь. Я здесь не одинок, конечно: например, Илюша Сегалович когда-то много лет назад тоже убеждал программистов Яндекса читать его “Думай медленно…” — впрочем, без особого успеха.
И потому особенно приятно, что смысл прогресса моделей от OpenAI Сэм Альтман объясняет в канемановских терминах “системы-1” и “системы-2”: “The GPT series of models were amazing at 'system-1' type thinking, but what we wanted was systems that could reason. There is so much value if AI can reason across problems.” В этой терминологии, модели начиная GPT-4o1-preview начинают демонстрировать способности, свойственные “системе-2”: неторопливо и последовательно рассуждать, а не доверяться быстрым эвристикам.
Пока компания тут в самом начале пути: она справляется с рассуждениями настолько же (не)успешно, насколько GPT-2 справлялась с эвристиками. Первые признаки прогресса в новом направлении Альтман обещает нам показать, когда случится переход от o1-preview к o1: “The improvement curve is very steep, and things models can't solve today will be able to solve in a few months."

https://www.tomsguide.com/ai/chatgpt/chatgpt-is-upgrading-itself-sam-altman-says-next-gen-ai-could-invent-breakthroughs-cure-diseases

Ну ладно, пусть сегодня на канале день OpenAI — я стараюсь не злоупотреблять ссылками на них. Второй раз за день — как и в случае с Канеманом (см. предыдущий пост), радует знакомый тренд: любая крупная ИТ-компания, пусть и молодая, пусть и невеликая по численности, понимает, что без связи с образовательными институциями, без разработок специально под нужды образования — жить и выжить нельзя 🙂
И потому OpenAI наняла опытную Лию Бельски, много проработавшую в Курсере и в 2020 попавшую в список Forbes “40 under 40 in Tech”, которой предстоит стать first general manager of education, leading the artificial intelligence startup’s efforts to bring its products to more schools and classrooms.
В Курсере Лия отвечала за монетизацию, так что наверняка и академические партнерства OpenAI будут не только про социальную ответственность, но и про новые источники дохода. А главная ее задача звучит прямо как фрагмент целей хорошо знакомого Яндекс Образования и уже надвигающейся конференции YAC/e-2024 :)) “...work with leading academic institutions to ensure that people working across all disciplines and industries have the training they need to maximize the benefits of AI”
https://www.bloomberg.com/news/articles/2024-09-18/openai-hires-former-coursera-executive-to-bring-ai-to-classrooms

Иииии - по игре Atomic heart выйдет сериал от Кинопоиска. Краткое содержание от продюсеров: панк, безумие, роботы

Где-то на расстоянии около 20 млрд км от Земли летит сейчас давно потерявший с ней связь зонд “Пионер-10”. Но он продолжает нести то, что называют “посланием инопланетянам от жителей Земли” — металлическую пластину , на которой выгравированы фигуры мужчины и женщины, атом водорода и схема расположения Земли относительно нескольких пульсаров.
“Пионер-10” покинул Землю в 1972 году — с тех пор достигнут заметный прогресс в плотности и способах записи информации и в достижениях науки. На второй фотке можно различить знакомые человеческие фигурки, те самые, что на зонде (и человеческие пальцы для масштаба). А вот дальше интересней.
В том, что кажется сероватым прямоугольником на круглой стеклянной пластинке, записан человеческий геном целиком. А рядом — как и на пластинке на зонде — графическое объяснение того, что зашифровано в объемной решетке фемтосекундным лазером в объеме стекла. Утверждается, что на такую стекляшку можно записать до 360 терабайт данных, причем срок их сохранности достигает многих миллиардов лет, лишь бы температура не превысила 1000 С.
Пока что артефакт хранится в древней соляной пещере в Австрии, вдруг однажды пригодится, пусть даже и не нам 🙂
https://newatlas.com/technology/5d-crystal-360-terabytes-human-genome/

На прошедшей неделе вышел эпизод подкаста Acquired с Марком Цукербергом. И в нем есть любопытный и не часто обсуждаемый момент: Марк вспомнил, что когда он переместился в Долину, то обратил внимание на отсутствие технических знаний и/или технического образования у людей в руководстве стартапов:
“The CEO wasn't technical, the board of directors had no one technical on it, they had like one dude on the management team who was the head of engineering who was technical and everyone else wasn’t”
Удивительно, но эти стартапы считали себя технологическими компаниями. Марк счел, что в этом их слабое место , но и в другую крайность решил не ударяться:
"You don't want everyone to be an engineer because there's other things that matter too, but if you don't have enough of your kind of share of the company as engineers, then you're not a technology company. And I think that that also is important to the board in terms of how you weigh decisions and culturally things inside the company matters a lot."
Интересно, конечно, было б с этой точки зрения посмотреть на руководство сегодняшних стартапов — на первый беглый взгляд, ситуация изменилась не сильно:)

https://www.yahoo.com/tech/mark-zuckerberg-says-leaders-technical-092702401.html