Пошук по сайту:

OpenAI підписала оборонний контракт із Пентагоном після конфлікту з Anthropic

OpenAI підписала оборонний контракт із Пентагоном після конфлікту з Anthropic
OpenAI підписала оборонний контракт із Пентагоном після конфлікту з Anthropic

Генеральний директор OpenAI Сем Альтман оголосив, що компанія уклала угоду, яка дозволяє Пентагону використовувати її моделі ШІ в секретній мережі Міноборони США. Про це передає TechCrunch.

Це сталося після зриву переговорів між Пентагоном і конкурентом OpenAI, компанією Anthropic, яка виступала проти використання своїх технологій для масового внутрішнього стеження та створення повністю автономних систем озброєння.

Згідно з заявою Альтмана, новий контракт OpenAI з Міноборони включає ті ж принципи безпеки, через які між Anthropic та Пентагоном виник конфлікт. Компанія фіксує заборону на масове внутрішнє спостереження і наполягає на людській відповідальності за застосування сили, зокрема за використання автономних систем озброєння. Альтман зазначив, що Міноборони демонструє "глибоку повагу до безпеки", підтримує її принципи, відображаючи в законах та політиці, а також додав, що ці принципи прямо внесені в текст угоди.

OpenAI пообіцяла побудувати технічні запобіжники, які мають гарантувати належну роботу моделей, чого також хотіли і в Міноборони. Компанія також направить своїх інженерів до Пентагону для підтримки й контролю безпеки використання ШІ.

Журналісти Fortune повідомляють, що американський уряд погодився дозволити OpenAI створити власний "рівень безпеки", який запобігатиме небажаному використанню. Якщо модель відмовиться виконати певне завдання, уряд не зможе змусити компанію змінити цю поведінку.

Читайте по темі: Глобальний збій ШІ: ChatGPT, Gemini та Claude одночасно вийшли з ладу

Голова Пентагону Піт Гегсет раніше звинуватив Anthropic у спробі "накласти вето на оперативні рішення американських військових" і оголосив, що компанію буде внесено до переліку ризиків для ланцюга постачання. Це означає, що жоден підрядник чи постачальник, який працює для американських військових, не зможе вести комерційну діяльність з Anthropic.

Anthropic у відповідь заявила, що оскаржуватиме такий статус у суді і додала, що досі не отримала офіційного повідомлення про припинення переговорів.

Альтман у своєму дописі закликав Пентагон запропонувати аналогічні умови всім компаніям, що працюють над ШІ. Він висловив велике сподівання, що конфлікт навколо оборонних контрактів із застосуванням ШІ перейде від юридичного тиску та урядових санкцій до "розумних угод" між державою та індустрією.

Коментарі:

comments powered by Disqus