Ученые выяснили, что «мусорный» контент из соцсетей способен довести ИИ до психопатии.

В недавнем исследовании, опубликованном на arXiv, говорится, что большие языковые модели, использующие низкокачественные данные, хуже рассуждают и чаще ошибаются.

По словам соавтора работы Чжанъяна Вана из Техасского университета в Остине, традиционные критерии качества данных — грамматика и понятность — не отражают истинного уровня контента.

Чтобы это доказать, Ван и его коллеги попытались обучить ИИ на коротких популярных постах в социальных сетях, а также на поверхностных или сенсационных материалах. В итоге команда наблюдала, как «мусорные» данные влияют на мышление моделей, их этику и даже «личность».

Результаты оказались тревожными: модели, обученные на брейнрот-контенте, чаще «перескакивали» через этапы рассуждений и выдавали неверные ответы. Чем больше в датасете было такого контента, тем хуже становилось качество логики.

Особенно заметно пострадала модель Llama: до обучения на ненужных данных она демонстрировала доброжелательность, экстраверсию, добросовестность, открытость и некоторую долю нарциссизма, а после обучения на «мусоре» начала демонстрировать негативные черты, и, согласно одному из опросников, проявилась психопатия.

Попытки исправить ситуацию — например, добавлением качественных данных или перенастройкой инструкций — помогали лишь частично, и сейчас исследователи ищут другие методы для снижения влияния «мусорных» данных.

Мехвиш Насим, исследователь ИИ из Университета Западной Австралии в Перте, резюмировала:

«Ещё до того, как люди начали работать над большими языковыми моделями, мы говорили, что если передать модели ИИ мусор, она произведёт мусор».

🔻 Подписывайтесь на «Подъём»!

◻️◻️◻️ Доктор физико-математических наук, ведущий научный сотрудник Пулковской астрономической обсерватории Георгий Гончаров согласился с версией, что пролетевший 27 октября над Москвой и соседними регионами объект может быть болидом.

Гончаров отметил, что версия о болиде «выглядит правильно». «Все сходится», — сообщил Гончаров РБК, комментируя версию научного руководителя обсерватории «Ка-Дар» и «Астроверты», создателя AstroAlert Станислава Короткого.

По словам Короткого, есть два варианта, чем может быть яркий объект. По одной из версий, это космический мусор, т.е. созданный руками человека объект, который люди «запустили на орбиту вокруг Земли, и вот он обратно упал на Землю». По другой версии, это был естественного происхождения болид, то есть метеороид размером в десятки сантиметров в диаметре, который на космической скорости ворвался в атмосферу Земли.

Пролет объекта состоялся в 06:32 мск в течении 33 секунд. Объект летел с востока на запад, что не свойственно искусственным спутникам Земли — их запускают в противоположном направлении, отметил ученый. По расчетам Короткого, линейная скорость полета предполагаемого болида составляла 17 км/сек. «И это уже через 15 секунд после появления болида на ИК-камере. Значит он уже успел к этому моменту затормозить в верхних слоях атмосферы за счет трения. И это значит 100% не космический мусор, а метеороид естественного происхождения», — подытожил он.

В лаборатории солнечной астрономии Института космических исследований РАН ранее сообщили, что не смогли точно определить происхождение яркого объекта.

🐚 Другие видео этого дня — в телеграм-канале РБК

Главные новости субботы:

🔹 Украинские военные, окруженные в Красноармейске в ДНР, начали сдаваться в плен.

🔹 Украинские мошенники начали использовать новую многоходовую схему вербовки россиян.

🔹 РЖД открывают детские зоны на вокзалах и игровые площадки возле них.

🔹 Второе уголовное дело блогера-иноагента Максима Каца передали мировому судье.

🔹 Российские школьники завоевали три золотые медали на международной олимпиаде по химии.

🔹 Резкое похолодание на 15 градусов за 2-3 дня ожидается в азиатской части России.

🔹 Словакия положительно относится к идее создания антиукраинской коалиции вместе с Венгрией и Чехией.

🔹 Грабители, укравшие исторические ценности из Лувра, пытались продать их в даркнете.

🔹 Институт Пушкина нашёл самое длинное слово в русском языке.

🔹Первый пошел: cуд вынес приговор о хищениях при строительстве фортификаций в курском приграничье.

🔹 Подписаться на РИА Новости

🗞 Главное в экономике, бизнесе и финансах за неделю

🔹Почему темпы роста ВВП в III квартале замедлились вдвое. С исключением сезонности в июле – сентябре динамика была околонулевой.

🔹Банки почти перестали консультировать клиентов в иностранных мессенджерах. Но на российскую площадку пока мигрировала только одна финансовая организация.

🔹Генеративный ИИ принесет ритейлу до 160 млрд рублей прибыли к 2030 году. Около трети компаний уже экспериментируют с нейросетями, которые могут самостоятельно создавать контент.

🔹«Новатэк» ожидает скачка цен на газ в случае отказа ЕС от импорта СПГ из России. Несмотря на рост предложения, Россия сможет перенаправить поставки в Азию, считают эксперты.

🔹Бизнес заявил о всплеске неплатежей контрагентов в III квартале. При этом кредитные средства и зарубежные переводы средств для предпринимателей стали доступнее.

🔹Аналитики ожидают подъема добычи золота в России в 2025 году почти на 5%. Причины роста – устойчивое ценовое ралли и высокий инвестиционный спрос на металл.

📰 Подпишитесь на «Ведомости»

🗞 Главное во внешней политике за неделю

🔹Кто выиграл от первой за шесть лет встречи Дональда Трампа и Си Цзиньпина. Они отложили торговую войну на год, договорились по сое, чипам и портам и долго говорили об Украине.

🔹Насколько реальна американская наземная операция в Венесуэле. В регион перебрасывается крупнейший атомный авианосец США.

🔹Главные заявления Путина об окружении ВСУ, «Буревестнике» и «Посейдоне». Президент провел встречу с бойцами в военном госпитале в Москве.

🔹Выйдут ли Россия и Азербайджан из дипломатического тупика. Суд освободил из-под стражи журналистов, но пока продлил арест остальным россиянам.

🔹Права голоса в Евросоюзе может лишиться Словакия. Поводом для этого стали принятые в стране нормы о защите семейных ценностей.

📰 Подпишитесь на «Ведомости»

🗞 Главное во внутренней политике за неделю

🔹Власти начали обсуждать оптимальный результат на выборах в Госдуму 2026 года. При явке в 55% поддержка «Единой России» должна быть не меньше 55%, говорят источники «Ведомостей».

🔹В Кремле появился третий начальник управления из «Росатома». Выходец из госкорпорации Вадим Титов будет отвечать за стратегическое партнерство и сотрудничество.

🔹 Верховном суде начались кадровые перестановки. Первый пленум под председательством Краснова избрал нового секретаря и оптимизировал коллегию по экономическим спорам.

🔹Введение «адвокатской монополии» будет заторможено. У готовящегося к внесению проекта о судебном представительстве оказалось много оппонентов.

🔹Перед кампанией в Госдуму можно ждать регулирования ИИ. Нейросети становятся все популярнее в агитациях кандидатов и партий.

📰 Подпишитесь на «Ведомости»

Сегодня 3 ноября, понедельник.

🟧 Президент США обвинил Россию, КНДР, КНР, Пакистан и другие страны в тайном проведении подземных испытаний ядерного оружия. «Но они не рассказывают вам об этом. Совсем не обязательно знать, где они проводят испытания. Они проводят их глубоко под землей, где люди не знают, что именно происходит. Вы чувствуете лишь небольшую вибрацию. Они проводят испытания, а мы — нет. Мы должны проводить испытания», — заявил в интервью CBS News Дональд Трамп.

🟧 В том же интервью Трамп заявил, что дни президента Венесуэлы Мадуро, вероятно, сочтены. Он не ответил на вопрос, планируют ли США предпринимать какие-либо военные действия против Венесуэлы. «Они обращаются с нами очень плохо — и не только в вопросе наркотиков. Они выслали в нашу страну сотни тысяч людей, которых мы не хотели принимать», — заявил президент США.

🟧 64 БПЛА уничтожены минувшей ночью над российскими регионами, сообщили в Минобороны. По 29 из них сбиты над Ростовской и Саратовской областями, 4 — над Волгоградской областью, по одному — над Белгородской областью и Ставропольским краем. После ночной атаки аэропорт Саратова возобновил работу.

🟧 Неформальная встреча премьеров России и Китая прошла в КНР. Ли Цян принял Михаила Мишустина у себя на родине в Хуанчжоу, на одной из вилл с видом на озеро Сиху, которое признано объектом Всемирного наследия ЮНЕСКО. Во время визита российский премьер также примет участие в регулярной встрече глав правительств двух стран. По итогам мероприятия планируется подписать ряд документов. После Мишустин отправится в Пекин — 4 ноября он встретится с председателем КНР Си Цзиньпином.

🟧 Не только Бельгия, но и Франция и Италия выступают против передачи Украине замороженных российских активов в рамках «репарационного кредита», сообщила газета Corriere della Sera. По данным издания, в Париже и Риме «обеспокоены своей финансовой ответственностью» в случае, если использование российских активов будет признано незаконным. Ранее в конце октября участники саммита ЕС в Брюсселе не достигли согласия по вопросу об использовании российских активов.

🟧 Землетрясение магнитудой 6,3 произошло в Афганистане в ночь на понедельник, толчок зафиксирован на глубине 28 км недалеко от одного из самых густонаселенных городов севера страны — Мазари-Шариф. Повреждения получила архитектурная жемчужина Афганистана — Голубая мечеть. Погибли, по меньшей мере, 20 человек, более 300 получили ранения. Подземные толчки также ощутили в Казахстане, Узбекистане и Таджикистане, о последствиях не сообщалось.

🟧 Ежегодная акция «Ночь искусств» пройдет в России 3-4 ноября. Всего запланировано более 3,3 тыс. выставок, концертов, кинопоказов, спектаклей и творческих встреч. Более 350 из них будут доступны по «Пушкинской карте». Основная часть мероприятий намечена на 3 ноября.

🟧 Парковка на всех улицах Москвы в честь Дня народного единства будет бесплатной 3 и 4 ноября. При этом парковки со шлагбаумом работают в обычном режиме.

📻 Подписывайтесь на BFM | И в MAX