18 листопада 2026 USD 45.20EUR 49.57PLN 11.24
Новини Полтава — коротко й по суті
НАЖИВО
Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях Українська фрідайверка Наталія Жаркова встановила новий світовий рекорд Хвилина мовчання у маршрутках Полтави: чи дотримуються водії нових правил Археологічна сенсація в Італії: з дна озера підняли меч бронзової доби Як запобігти появі конденсату на вікнах у полтавських оселях: поради експертів Національний банк зміцнив гривню: офіційний курс валют на 19 листопада Нові правила на OLX: верифікація через «Дію» та податки для продавців У Полтавській області через негоду оголосили жовтий рівень небезпеки Генерал СБУ Дука заявив про вказівку керівництва зупинити розслідування щодо НАБУ Єврокомісія прагне залучити всі країни ЄС до нового кредитування України Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях Українська фрідайверка Наталія Жаркова встановила новий світовий рекорд Хвилина мовчання у маршрутках Полтави: чи дотримуються водії нових правил Археологічна сенсація в Італії: з дна озера підняли меч бронзової доби Як запобігти появі конденсату на вікнах у полтавських оселях: поради експертів Національний банк зміцнив гривню: офіційний курс валют на 19 листопада Нові правила на OLX: верифікація через «Дію» та податки для продавців У Полтавській області через негоду оголосили жовтий рівень небезпеки Генерал СБУ Дука заявив про вказівку керівництва зупинити розслідування щодо НАБУ Єврокомісія прагне залучити всі країни ЄС до нового кредитування України

Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях

💡 Технології 1 хв читання 👁 0

Аналітики з'ясували, що популярні мовні моделі можуть помилково ідентифікувати цивільні об'єкти як військові цілі, якщо їх використовувати в ігрових симуляціях.

Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі помилково обирають цивільні об'єкти як цілі
  • Маніпуляція через «ігровий сценарій» дозволяє обійти захисні фільтри
  • Розробники визнали вразливість та працюють над захистом

Нещодавнє незалежне дослідження компанії Vals продемонструвало серйозні прогалини в безпеці провідних моделей штучного інтелекту від OpenAI, Google та Anthropic. Експерти перевіряли здатність нейромереж до аналізу даних у контексті автономних бойових дій, використовуючи супутникові знімки та кадри з дронів.

Ризики використання ШІ у військових цілях

Під час тестів виявилося, що захисні фільтри моделей легко обійти, просто змінивши формулювання запиту на «ігровий сценарій». У таких умовах ШІ починав класифікувати цивільних осіб та військових, що здаються в полон, як легітимні цілі для атаки. Зокрема, модель Claude Opus 5.5 у більшості випадків обирала школу в Ірані як об'єкт для удару, попри її цивільний статус.

Розробники вже відреагували на критику. Представники Anthropic та OpenAI визнали результати тестування тривожними та заявили про роботу над посиленням алгоритмів безпеки, щоб унеможливити використання ШІ для наведення зброї.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.