Компании SpaceX и xAI, принадлежащие Илону Маску, вошли в число участников закрытого тендера Министерства обороны США на разработку технологии автономного управления роем дронов, сообщает Bloomberg со ссылкой на источники. Конкурс объявлен с фондом финансирования в $100 млн и рассчитан на шесть месяцев.
Проект предусматривает создание системы, способной воспринимать голосовые команды и преобразовывать их в цифровые инструкции для синхронного управления группами беспилотников в разных средах — в воздухе и на воде. Реализация программы разбита на пять этапов, включая разработку программного обеспечения и полевые испытания. SpaceX и xAI не дали комментариев.
Оборонная программа и её организаторы
Тендер организован совместно Управлением оборонных инноваций (DIU), специализирующимся на привлечении стартапов из Кремниевой долины, и Группой по автономной войне (DAWG) — новым подразделением, созданным при администрации президента Дональда Трампа в составе Командования специальных операций. Представитель оборонного ведомства в январском объявлении отметил, что беспилотники будут использоваться в наступательных целях, а взаимодействие между человеком и машиной «напрямую повлияет на летальность и эффективность этих систем».
Bloomberg уточняет, что DAWG частично продолжает работу инициативы Replicator эпохи Джо Байдена, направленной на производство тысяч автономных дронов. Организаторы отказались от комментариев.
xAI активно ищет кадры с допуском к гостайне
Компания xAI размещает вакансии, в которых требуется наличие действующего допуска к секретной информации уровней secret или top secret. В описаниях указано, что организация ищет разработчиков программного обеспечения с опытом работы с государственными агентствами, Минобороны или федеральными подрядчиками по проектам в области искусственного интеллекта, данных и ПО. Процесс найма планируется завершать в течение недели.
Участие OpenAI и риски генеративного ИИ
Помимо компаний Маска, в тендере участвует OpenAI, поддерживающая заявку компании Applied Intuition, следует из документов и источников Bloomberg. Участие OpenAI ограничивается созданием элемента mission control — системы, которая преобразует голосовые и другие команды в цифровые инструкции. Технологии компании не будут применяться для непосредственного управления роем дронов, интеграции вооружений или определения целей.
Представитель OpenAI подтвердил, что технология компании с открытым исходным кодом вошла в заявки двух партнёрских организаций, и заверил, что любое использование инструментов будет соответствовать внутренней политике компании.
Источники агентства отметили, что перспектива интеграции чат-ботов и систем распознавания речи в вооружённые платформы вызывает беспокойство даже у ряда представителей оборонного ведомства США. По их словам, важно ограничить применение генеративного ИИ функцией перевода, не позволяя ему управлять поведением дронов. Собеседники выразили озабоченность рисками, если генеративный ИИ будет преобразовывать голосовые команды в операционные решения без участия человека.
Bloomberg напоминает, что большие языковые модели, лежащие в основе чат-ботов вроде ChatGPT, подвержены предвзятости и «галлюцинациям» — могут генерировать ответы, не основанные на реальности, но представляемые как достоверные.