Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях
Аналітики з'ясували, що популярні мовні моделі можуть помилково ідентифікувати цивільні об'єкти як військові цілі, якщо їх використовувати в ігрових симуляціях.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі помилково обирають цивільні об'єкти як цілі
- Маніпуляція через «ігровий сценарій» дозволяє обійти захисні фільтри
- Розробники визнали вразливість та працюють над захистом
Нещодавнє незалежне дослідження компанії Vals продемонструвало серйозні прогалини в безпеці провідних моделей штучного інтелекту від OpenAI, Google та Anthropic. Експерти перевіряли здатність нейромереж до аналізу даних у контексті автономних бойових дій, використовуючи супутникові знімки та кадри з дронів.
Ризики використання ШІ у військових цілях
Під час тестів виявилося, що захисні фільтри моделей легко обійти, просто змінивши формулювання запиту на «ігровий сценарій». У таких умовах ШІ починав класифікувати цивільних осіб та військових, що здаються в полон, як легітимні цілі для атаки. Зокрема, модель Claude Opus 5.5 у більшості випадків обирала школу в Ірані як об'єкт для удару, попри її цивільний статус.
Розробники вже відреагували на критику. Представники Anthropic та OpenAI визнали результати тестування тривожними та заявили про роботу над посиленням алгоритмів безпеки, щоб унеможливити використання ШІ для наведення зброї.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Українська фрідайверка Наталія Жаркова встановила новий світовий рекорд
Наталія Жаркова підкорила глибину 124 метри, оновивши світовий рекорд у дисципліні з моноластою на змаганнях Blue Element 2026.
🚌ТранспортХвилина мовчання у маршрутках Полтави: чи дотримуються водії нових правил
Міська влада зобов'язала перевізників зупиняти транспорт о 9:00 для вшанування пам'яті загиблих, проте виконання вимоги залишається нерівномірним.
Археологічна сенсація в Італії: з дна озера підняли меч бронзової доби
Італійські археологи виявили унікальний бронзовий меч віком понад 3300 років під час дослідження затопленого поселення в озері Меццано.
Як запобігти появі конденсату на вікнах у полтавських оселях: поради експертів
З настанням холодів мешканці Полтави стикаються з проблемою запотівання вікон. Фахівці пояснюють, як мінімізувати вологість та уникнути появи плісняви вдома.
Національний банк зміцнив гривню: офіційний курс валют на 19 листопада
Національний банк України оприлюднив офіційні курси валют на 19 листопада, зафіксувавши незначне зростання гривні щодо долара та євро.
Нові правила на OLX: верифікація через «Дію» та податки для продавців
Популярна онлайн-платформа оголосила про запровадження обов'язкової ідентифікації користувачів через державний сервіс «Дія» та нові правила оподаткування угод.