Palantir, компания миллиардера Питера Тиля, запускает платформу искусственного интеллекта Palantir (AIP), программное обеспечение, предназначенное для запуска больших языковых моделей, таких как GPT-4, и альтернативных в частных сетях. В одном из своих видеороликов Palantir демонстрирует, как военные могут использовать AIP для ведения войны. На видео оператор использует чат-бота в стиле ChatGPT, чтобы заказать разведку дронами, сгенерировать несколько планов атаки и организовать подавление вражеских коммуникаций.
В сценарии Palantir “военный оператор, ответственный за мониторинг деятельности в Восточной Европе”, получает предупреждение от AIP о том, что враг собирает военную технику рядом с дружественными силами. Затем оператор просит чат-бота показать им больше деталей, получает немного больше информации, а затем просит ИИ угадать, что это могут быть за юниты.
“Они спрашивают, какие вражеские подразделения находятся в регионе, и используют ИИ для построения вероятного формирования подразделений”, – говорилось в видео. После получения наилучшего предположения ИИ о том, что происходит, оператор затем просит ИИ сделать снимки получше. Он запускает беспилотник Reaper MQ-9 для съемки, и оператор обнаруживает, что рядом с дружественными силами находится танк Т-80, российская машина советской эпохи.
Затем оператор спрашивает роботов, что с этим делать. “Оператор использует AIP, чтобы сгенерировать три возможных варианта действий для нацеливания на это вражеское оборудование”, – говорилось в видео. “Затем они используют AIP для автоматической отправки этих опций по цепочке командования”. Варианты включают атаку танка F-16, артиллерией дальнего действия или ракетами Javelin. Согласно видео, ИИ даже сообщит всем, достаточно ли у близлежащих войск Javelins для выполнения миссии и автоматизации систем подавления.
В системе есть функция “человек в курсе”. Однако, по мнению автора, эта функция сводится к простому общению с чат-ботом и одобрению его действий.
Palantir также не продает ИИ для военных целей или модель большого языка (LLM), она предлагает интегрировать существующие системы в контролируемую среду. Демонстрация AIP демонстрирует программное обеспечение, поддерживающее различные LLM с открытым исходным кодом, включая FLAN-T5 XL, доработанную версию GPT-NeoX-20B и Dolly-v2-12b, а также несколько пользовательских плагинов. Даже готовые системы искусственного интеллекта имеют множество известных проблем, из-за которых спрашивать их, что делать в зоне боевых действий, может превратиться в кошмар. Например, они склонны просто выдумывать вещи или “галлюцинировать”. GPT-NeoX-20B, в частности, является альтернативой GPT-3 с открытым исходным кодом, предыдущей версии языковой модели OpenAI, созданной стартапом под названием EleutherAI. Одна из моделей с открытым исходным кодом EleutherAI – доработанная другим стартапом под названием Chai — недавно убедила бельгийца, который шесть недель общался с ней, покончить с собой.
Согласно Palantir, этот контроль включает в себя три столпа. Первое утверждение заключается в том, что AIP сможет развертывать эти системы в засекреченных сетях и “устройствах на передовой”. Они утверждают, что смогут анализировать как секретные данные, так и данные в режиме реального времени ответственным, законным и этичным способом.
Эта система поддерживаемой Palantir, которая предоставляет пользователям контроль над тем, что могут делать каждый LLM (Local Law Enforcement) и ИИ (искусственный интеллект) в системе. Безопасность AIP (Advanced Intelligence Platform) обеспечивает возможность контроля за действиями LLM и ИИ, а также генерирует защищенную цифровую запись операций. Эти функции помогают снизить юридические, нормативные и этические риски в чувствительных и засекреченных условиях.
Чего AIP не делает, так это рассказывает о том, как он планирует решать различные пагубные проблемы LLM и каковы могут быть последствия в военном контексте. AIP, похоже, не предлагает решения этих проблем.
