Базу DeepSeek с историей чатов нашли в открытом доступе за пару минут

База данных содержала значительный объем истории чатов, внутренних данных и конфиденциальной информации, включая потоки журналов, секреты API и эксплуатационные данные

Мнение bitkogan:
Похоже, китайцы не врали, что сделали модель быстро и «на коленке». Болт, положенный на безопасность, тому подтверждение.
#ai 🔥HOTLINE

🧠Может ли ИИ заменить психологов?

Мы привыкли считать общение с условным ChatGPT игрушкой или, наоборот, угрозой терапии.
Но уже есть клиническое исследование, где генеративный чат‑бот реально снижает симптомы депрессии и тревоги, но не отменяет рисков зависимости.

Что за исследование?

В журнале NEJM AI вышла работа «Randomized Trial of a Generative AI Chatbot for Mental Health Treatment».Тестировали чат‑бот Therabot, обученный на реальных КПТ-сессиях на взрослых с депрессией, тревогой и расстройствами питания. Испытуемые 8 недель общались с ботом, а не с живым терапевтом.

Что выявили?

📍симптомы депрессии и тревоги у группы Therabot снизились больше, чем в контроле; эффект сопоставим с лёгкими форматами терапии.
📍участники общались с ботом регулярно на протяжении 8 недель и оценили отношения с ним как близкие к настоящему терапевту.

😊Но вот в чём подвох: в это же время вышли еще две работы, одна MIT и Open AI об эмоциональной привязке к ChatGPT, вторая работа про разрушительное воздействие ИИ на психику, если бот действует не по протоколу КПТ.

То есть, по-видимому, да, боты уже могут заменить терапию, НО: только, если действуют по протоколу и только под клиническим надзором/с ограничениями. Так что общение с ChatGPT заменить полноценную терапию не может.

#AI #психология

🇫🇮⚠️ ИИ-чатбот парка Särkänniemi допустил ошибку при ответе посетителю

Виртуальный ИИ-консультант парка развлечений Särkänniemi предоставил посетителю неверную информацию о требованиях по росту для аттракционов.

На ошибку обратил внимание житель Тампере Ville Ilkkala, который рассказал о ситуации в социальной сети Threads.

Он спросил у чат-бота Huvi, на какие аттракционы с переворотами может попасть ребёнок ростом 120 сантиметров.

В ответ искусственный интеллект перечислил несколько вариантов, включая аттракцион X.

При этом чат-бот заявил:

«Ограничение по росту составляет 140 см, поэтому ребёнок ростом 120 см вполне подходит».

Пользователь назвал ответ бесполезным

Ville Ilkkala рассказал, что ответ одновременно рассмешил и удивил его.

По его словам, после первого ответа чат-бот продолжил перечислять аттракционы с ограничением в 140 сантиметров, ошибочно предполагая, что ребёнок ростом 120 сантиметров может ими воспользоваться.

Ilkkala считает, что подобные ИИ-консультанты зачастую не приносят большой пользы.

«Если просто поискать информацию через поисковую систему, часто можно получить более точный ответ».

Он отметил, что его вопрос был достаточно конкретным и касался одновременно ограничений по росту и особенностей аттракционов.

По словам Ilkkala, информация была нужна для его дочери ростом 132 сантиметра, которая пока не может пользоваться самыми экстремальными аттракционами.

Руководство Särkänniemi пообещало исправить ошибку

Генеральный директор Särkänniemi Mikko Hautasaari сообщил, что ранее не слышал о подобных ошибках со стороны чат-бота Huvi.

«Здесь действительно есть ошибка, и мы обязательно её исправим. Это первый подобный случай, о котором мне стало известно».

По словам Hautasaari, инструмент на основе искусственного интеллекта используется уже не первый год, однако точное время его запуска он назвать не смог.

Руководитель отметил, что обычно посетители задают чат-боту вопросы по темам:

- режим работы парка,
- парковка,
- рестораны и услуги.

По его словам, сервис в целом получил положительные отзывы, а значительная часть обращений клиентов теперь обрабатывается через Huvi.

«Мы получали хорошие отзывы. Посетители быстро получают необходимую информацию. Исключением стал этот курьёзный случай, когда был дан неверный ответ».

Неудачный опыт внедрения ИИ в других компаниях

Тем временем в США некоторые компании уже начали отказываться от подобных ИИ-решений после неудачного опыта внедрения.

- Starbucks в 2026 году свернула работу своей ИИ-системы управления запасами и заказами спустя девять месяцев после запуска.

Сообщается, что алгоритм регулярно путал товары, ошибался при подсчёте остатков и создавал дополнительные сложности для сотрудников.

В результате часть процессов была возвращена под контроль людей.

Этот случай показывает, что многие компании активно внедряют искусственный интеллект ради автоматизации и повышения эффективности, однако на практике подобные технологии пока не всегда способны надёжно заменить человеческую работу.

@fin_rus #Финляндия

#Särkänniemi #Tekoäly #Chatbot #Huvi #Tampere #Teknologia #Asiakaspalvelu #AI #Starbucks

#VilleIlkkala #MikkoHautasaari #Särkänniemi #Huvi #Tampere #Starbucks