Власти США выложили 12 лучших практик использования искусственного интеллекта в армии

Государственный департамент США опубликовал декларацию, призывающую к “этичному и ответственному” применению искусственного интеллекта (ИИ) в военных операциях среди стран, которые их разрабатывают. В документе изложены 12 лучших практик для развития военных возможностей ИИ.

Перечисленные в документе 12 лучших практик касаются безопасности ядерного оружия, ответственного проектирования систем, подготовки персонала и методологии аудита возможностей военного ИИ. В документе также подчеркивается необходимость минимизации непреднамеренных предубеждений и аварий, а также важность тестирования для обеспечения безопасности и эффективности возможностей военного ИИ.

Не обошли, в том числе, стороной и непреднамеренное поведении ИИ в военных системах: “Государства должны проектировать и разрабатывать военные возможности ИИ таким образом, чтобы они (страны, – прим. ред.) обладали способностью обнаруживать и избегать непредвиденных последствий, а также способностью отключать или деактивировать развернутые системы, демонстрирующие непредвиденное поведение”.

С полным текстом декларации можно ознакомиться на сайте Государственного департамента США.

Использование ИИ в вооруженных конфликтах должно соответствовать применимому международному гуманитарному праву, включая его основополагающие принципы. Военное использование возможностей ИИ должно быть подотчетным, в том числе посредством такого использования во время военных операций в рамках ответственной человеческой цепи командования и управления. Принципиальный подход к военному использованию ИИ должен включать тщательное рассмотрение рисков и выгод, а также сводить к минимуму непреднамеренные предубеждения и случайности.