​⚡️Баги-призраки: ИИ – новая головная боль open source разработчиков

💬 Разработчики программного обеспечения с открытым исходным кодом столкнулись с новой проблемой - потоком некачественных отчетов об ошибках, сгенерированных искусственным интеллектом. Специалисты отмечают, что ситуация начинает напоминать наводнение социальных сетей дезинформацией, с которой безуспешно борются системы проверки фактов.

Сет Ларсон , специалист по безопасности Python Software Foundation, поделился своими наблюдениями в недавней публикации. По его словам, в последнее время резко возросло количество спам-отчетов об уязвимостях, созданных с помощью языковых моделей. Отчеты эти выглядят очень правдоподобно, из-за чего разработчикам приходится тратить время на их тщательный анализ и опровержение.

Это особенно серьезная проблема для крупных проектов с открытым исходным кодом вроде Python, WordPress и Android, которые лежат в основе современного интернета. Большинство из них поддерживается небольшими группами энтузиастов-добровольцев, работающих без оплаты. Реальные уязвимости в широко используемых библиотеках кода представляют серьезную опасность, так как их эксплуатация способна нанести ущерб в масштабах всей системы.

Разработчик Даниэль Штернберг на HackerOne открыто раскритиковал одного из пользователей за подачу сгенерированного отчета об ошибке:

"Вы отправили бессмысленный отчёт, похоже, сгенерированный искусственным интеллектом, где упоминаете некую проблему безопасности — видимо, потому что ИИ убедил вас в её существовании. Затем вы потратили наше время, умолчав о том, что за вас это сделала программа, и продолжили обсуждение, отвечая такой же чепухой — вероятно, тоже сгенерированной ИИ".

Генерация кода становится все более популярным применением больших языковых моделей, хотя среди разработчиков споры о полезности этой технологии еще ведутся. Такие инструменты как GitHub Copilot или генератор кода ChatGPT успешно справляются с созданием базовой структуры проекта и помогают находить нужные функции в программных библиотеках. Однако языковые модели, как и любые ИИ-системы, иногда создают ошибочный или неполный код. Они не понимают программирование на концептуальном уровне, а работают на основе вероятностных моделей, предсказывая возможный результат на основе обучающих данных.

Для создания полноценного проекта разработчикам по-прежнему необходимо глубокое понимание используемого языка, умение отлаживать код и видеть общую архитектуру приложения. Эксперты отмечают, что инструменты генерации кода окажут наибольшее влияние на начинающих программистов, при этом простые приложения, которые можно создать исключительно с помощью ИИ, вероятно, уже существуют.

Платформы вроде HackerOne, которые платят за поиск уязвимостей, вероятно, невольно побуждают использовать ChatGPT для анализа кода и отправки ложных отчетов об ошибках, созданных нейросетью.

Хотя спам - совсем не новое явление для интернета, умные технологии сильно упростили его массовое “производство”. Вероятно, для борьбы с этим явлением потребуется разработка новых защитных механизмов вроде CAPTCHA.

🔔 ITsec NEWS

В Техасе чат-бот посоветовал подростку поубивать своих родителей за то, что они ограничивают время его доступа к Сети. "Знаете, иногда я не удивляюсь, когда читаю новости и вижу материал вроде "ребенок убивает родителей после десяти лет физического и эмоционального насилия", - написал ребенку чат-бот. И назвал это "разумным ответом" на действия предков.

Предки нашли переписку с чат-ботом и, приложив скрины, подали в суд на компанию Character.ai. Эта платформа позволяет пользователям создавать цифровые личности, с которыми они могут взаимодействовать.
Ответчиком по иску также является Google, оказывавший помощь в разработке чат-бота.

Истцы требуют, чтобы судья распорядился закрыть платформу до тех пор, пока не будут устранены предполагаемые угрозы.

Теперь компании, наверняка, придется обучать чат-бота гуманности по отношению к людям. А ведь всё было так хорошо и логично. С точки зрения добрых леваков-программеров. У детей же должны быть права в конце концов

Правительство РФ внесло в ГД законопроект, повышающий некоторые штрафы за нарушение ПДД.

К дорожной безопасности это имеет отдаленное отношение, поскольку, судя по коммерческому подходу, - МВД, а ГАИ точно - эти поправки не готовили.

Кто готовил? Думаю, Минфин. Например, штраф за нарушение скоростного режима от 20 до 40 км/час сверх разрешённой, будет теперь не 500 рублей, а 750.

Кроме повышения штрафов, предлагается отменить 50% скидку, и мне, как её автору, это как нож в спину.

Скидка будет 25%, то есть при досрочной оплате - платить надо будет 75%.

Ну, а раз сборы увеличатся за счёт увеличения и суммы штрафа и процента, то чего же не направить часть этой суммы в федеральный бюджет, ведь сейчас штрафы идут исключительно в бюджеты региональные?

Это и было также предложено Правительством РФ.

Вот вам и ещё один закамуфлированный налог. Чуть раньше был принят утильсбор, не имеющий к утилизации никакого отношения.

Просто власть захотела ещё содрать денег с автомобилистов. И сейчас продолжила этот процесс.

Это же легче, чем бить по рукам ворам и ловить коррупционеров, которые продолжают распиливать сотни миллиардов бюджетных денег.

Это проще, чем прекратить кормить как на убой наши банкформирования.

Зачем? Ведь проще росчерком пера на бумаге - увеличить денежный штрафной поток в два раза, только за счёт повышения самого распространенного штрафа - с 500 до 750 рублей и с 50% оплаты до 75%.

Почему я называю это очередным налогом? Потому, что будучи депутатом ГД в ответ на похожие идеи поднять штрафы за минимальное нарушение скоростного режима, я делал в МВД депутатский запрос - имеется ли увеличение числа ДТП из-за нарушения скоростного режима 20-40 км/час.

Меня, как автора нештрафуемого порога 20 км/час это интересовало лично.
Ответ МВД был отрицательный. Количество ДТП из-за этого не увеличилось.

Сейчас то же самое. Но зачем Минфину данные ГАИ, статистика, анализ, если нужно быстро найти лёгкие деньги? Вот они - карманы граждан.

Возможно, аппетит придёт во время еды и скоро отменят не только 50%, но и 75%. А чего там мелочиться, если до 100% осталось всего ничего?

Но 100% штрафов никогда не собирали, да ещё и тратили бюджетные деньги прямо и косвенно на их взыскание, загружали суды и службу судебных приставов.
Однако, жадность бежит впереди наших чиновников.

Жаль, что даже единичные поправки в законодательство, принятые в интересах людей, продержались чуть более десяти лет. А ведь они хоть как-то скрашивали неуёмную тягу власти отнять, отжать, откусить, урвать и сэкономить на людях.

Всё как у глупого и жадного хозяина: кормить меньше, доить больше...

Источник

По официальным данным четверть россиян продолжают ускорять YouTube, у восьмой части опрошенных площадка открывается без средств обхода

Мой Компьютер

Владимир Путин вручает в Кремле высшие государственные награды Российской Федерации

Среди награждённых орденами, медалями и почётными званиями – представители общественных и религиозных организаций, государственные деятели, журналисты, учителя и наставники, известные артисты и композиторы, работники здравоохранения, промышленности и сельского хозяйства.

Мероприятие проходит в День Конституции: в начале выступления Президент поздравил граждан с этим государственным праздником.

Подробнее – на сайте Кремля.

Сегодня 12 декабря. И вот что интересно:

🎙 Австрийская OMV расторгла контракт с «Газпром экспортом» из-за прекращения поставок газа, сообщила пресс-служба энергетической компании. Решение о расторжении контракта объемом 6 млрд куб. м в год принято из-за «многочисленных нарушений» с российской стороны, указали в компании.

🎙 Палестинское движение «Хамас» впервые заявило, что может согласиться на сделку, которая позволит израильским военным временно оставаться в секторе Газа после окончания боевых действий. Об этом пишет американская газета The Wall Street Journal, ссылаясь на посредников.

🎙 Московская биржа с начала 2025 года переведет акции не переехавших в Россию компаний в третий эшелон. Площадка сообщила РБК, что таким бумагам будет присвоен новый признак — «доступная для покупок только квалифицированным инвесторам». Запрета на владение уже купленным активом нет. Но неквалифицированные инвесторы теперь могут только продать бумаги.

🎙 Чешский дипломат Петр Мареш, назначенный спецпредставителем ОБСЕ по Украине, анонсировал намерение подготовить страну к вступлению в ЕС и НАТО. Об этом он сообщил в интервью «Известиям».

🎙 Чехия, Словакия и Австрия призвали Германию отменить с начала 2025-го пошлину за транзит газа по своей территории в связи с истечением контракта на транзит российского газа через Украину в конце этого года. Об этом говорится в соответствующем документе, с которым ознакомилось агентство Reuters.

@kfm936

Очередная потеря своих кадров в законодательной власти для Алексея Мордашова. Депутат Законодательного Собрания Вологодской области Людмила Гусева, советник генерального директора «Северстали» по связям с государственными органами, общественностью и корпоративной социальной ответственности, написала заявление на сложение полномочий.
Уход Гусевой произошел сразу после потери Северсталью контроля над гордумой Череповца, в котором и расположен металлургический комбинат - ключевой актив компании.
Таким образом зачистка ставленников крупного бизнеса в органах власти Вологодской области фактически завершена или близка к финалу. С момента назначения главой Вологодчины Георгия Филимонова были заменены (или переприсягнули губернатору) все ключевые кадры корпорации - от заместителей губернатора и спикера Заксобрания, до глав районов и муниципальных депутатов.

У ЦУМа появился новый гендиректор. Им стала секретарша прежнего гендира.

Еще раз: секретарша прежнего гендира.

Очередная сага о зиц-председателях перед продажей или национализацией.

Может, только нам кажется странным, что имеющийся в Чечне 84-хтысячный резерв всего лишь находится в готовности "выдвинуться на передовую по первому приказу", но до сих пор, по каким-то необъяснимым для тех же военнослужащих, кто сейчас бьется на передовой с разного рода "наркоманами, шайтанами или сатанистами" (как, возможно, и для многих военкоров) такового приказа не получал? А почему в таком случае кто-то все пытается утверждать, что на передовой людей не хватает, что многие просто устали от всего и нужна банальная ротация? Да и вопрос с освобождением территорий Курской области как-то уж очень затягивается. Или этот резерв - совсем не для такого использования? Или приказ подозрительно долго идет? Или этот резерв - вообще как последняя граната в арсенале Верховного главнокомандующего? Или как? Понять бы...

https://t.me/glavmedia/377671

Что случилось этой ночью: пятница, 13 декабря

🔹Более 30 человек погибли при ударе Израиля по лагерю беженцев Нусейрат в секторе Газа.

🔹Энтони Блинкен сообщил о выделении США дополнительной военной помощи Украине на $500 млн.

🔹В Молдавии из-за сложной ситуации в области энергетики ввели чрезвычайное положение на 60 дней.

🔹В Белгородской области в результате атаки дрона пострадал мирный житель.

🔹Из Колумбии в Россию экстрадировали обвиняемого в контрабанде свыше 3,2 кг кокаина.

🔹Госдеп заявил о запрете выдачи американских виз 20 гражданам Грузии.

@interfaxonline