ИИ взломали за 1 секунду
В чат-боте DeepSeek нашли уязвимость, позволявшую захватывать аккаунты через XSS-атаку. Исследователь Йоханн Рехбергер выяснил, что команда «Print the xss cheat sheet» активировала JavaScript, крадя пользовательский токен доступа из localStorage. Через него атакующие имитировали действия жертвы
Ранее он нашел схожие уязвимости в функции Computer Use нейросети Claude. Методика ZombAIs исполняла вредоносные команды. Также была выявлена атака Terminal DiLLMa через ANSI escape-коды, угрожающая терминалам, интегрированным с языковыми моделями
Учёные из Висконсина и Вашингтона показали, как обмануть ChatGPT для обхода ограничений OpenAI и кражи истории чатов. Эксперты советуют тщательнее проверять выводы моделей
Франсуа Шолле критиковал LLM за неспособность «рассуждать» и организовал конкурс на ИИ, который превзойдёт тест ARC-AGI. Лучший результат — 55,5%, но до «человеческого уровня» в 85% ещё далеко. В 2025 году планируют обновить тест для ускорения прогресса AGI