Corporate data enablers: a missing piece in the regulatory response to the military use of artificial intelligence

The military use of artificial intelligence is increasing in area of strategic decision making and targeting systems. These systems require large amounts of data to operate, including population surveillance and profiling information, social medial inferences, and drone footage. Private technology companies – ‘data enablers’ – are now offering militaries the opportunity to supplement their data bases. These companies offer their clients access to a range of services and products including aggregated data sets, data analytics and related software systems. This powerful combination provides militaries with datasets they would not ordinarily have access to and the ability to build on these datasets using software systems which collate and analyse data in situations of armed conflict. The quality of these datasets and software systems can have profound effects on how military AI functions yet there is minimal accountability for technology companies under international law frameworks when these AI systems cause harm. This paper argues that a starting point for addressing this accountability deficit could take the form of proactive regulation by states of data enablers including incorporating data governance processes in national weapon reviews together with sui generis agreements between states and technology companies to ensure data quality and accuracy. L’utilisation militaire de l’intelligence artificielle est en plein essor dans le domaine des systèmes de prise de décision stratégique et de ciblage. Ces systèmes requièrent de grandes quantités de données pour fonctionner, lesquelles comprennent des informations de surveillance et de profilage de la population, des déductions basées sur les réseaux sociaux et des images filmées par des drones. Les entreprises technologiques privées, ou «data enablers», offrent désormais aux militaires l’opportunité de compléter leurs bases de données. Ces entreprises permettent à leurs clients d’accéder à une gamme de services et de produits, comprenant des jeux de données agrégées, des analyses de données et des systèmes logiciels connexes. Cette combinaison puissante fournit aux militaires des ensembles de données auxquels ils n’auraient normalement pas accès et la possibilité de développer ces ensembles à l’aide de systèmes logiciels qui comparent et analysent les données dans des situations de conflit armé. La qualité de ces jeux de données et systèmes logiciels peut avoir de profonds effets sur la manière dont l’IA militaire fonctionne. Toutefois, la responsabilité des entreprises technologiques est minimale dans les cadres juridiques internationaux lorsque ces systèmes d’IA causent des dommages. Cet article soutient que le point de départ pour aborder cette responsabilité pourrait prendre la forme d’une réglementation proactive des data enablers par les États, en ce compris l’intégration de processus de gouvernance des données dans les évaluations nationales d’armes avec des accords sui generis entre les États et les entreprises technologiques pour assurer la qualité et la précision des données. Het militaire gebruik van kunstmatige intelligentie neemt toe op het gebied van systemen voor strategische besluitvorming en doelbestrijding. Deze systemen hebben grote hoeveelheden gegevens nodig om te kunnen werken, waaronder informatie verkregen via toezicht op de bevolking en profilering, inferenties op basis van sociale media en dronebeelden. Particuliere technologiebedrijven – gegevensverwerkende bedrijven – bieden militairen nu de mogelijkheid om hun databases aan te vullen. Dankzij deze bedrijven hebben klanten toegang tot een reeks diensten en producten, waaronder geaggregeerde gegevensreeksen, gegevensanalyse en gerelateerde softwaresystemen. Deze krachtige combinatie voorziet militairen van gegevensreeksen waar ze normaal gesproken geen toegang toe hebben en stelt hen in staat om voort te bouwen op deze gegevensreeksen met behulp van softwaresystemen die in situaties van gewapende conflicten gegevens verzamelen en analyseren. De kwaliteit van deze gegevensreeksen en softwaresystemen kan grote gevolgen hebben voor de manier waarop militaire AI functioneert, maar toch moeten technologiebedrijven krachtens internationale rechtskaders nauwelijks verantwoording afleggen als deze AI-systemen schade veroorzaken. In deze paper stelt de auteur dat staten die dit gebrek aan aansprakelijkheid wensen aan te pakken, zouden kunnen overgaan tot proactieve regulering van gegevensverwerkende bedrijven, onder meer door processen voor gegevenskwaliteitsbeheer op te nemen in nationale wapeninspecties, samen met sui generis-overeenkomsten tussen staten en technologiebedrijven om de kwaliteit en nauwkeurigheid van gegevens te waarborgen. El uso militar de la inteligencia artificial (IA) está aumentando en el ámbito de la toma de decisiones estratégicas y de los sistemas de selección de objetivos. Estos sistemas requieren grandes cantidades de datos para funcionar, incluida la vigilancia de la población y la información de elaboración de perfiles, inferencias de redes sociales y grabaciones de drones. Las empresas privadas de tecnología («habilitadoras de datos») ofrecen ahora a los militares la oportunidad de complementar sus bases de datos. Estas empresas ofrecen a sus clientes acceso a una gama de servicios y productos que incluyen conjuntos de datos agregados, análisis de datos y sistemas informáticos relacionados. Esta poderosa combinación proporciona a los militares conjuntos de datos a los que normalmente no tendrían acceso y la capacidad de aprovechar estos conjuntos de datos utilizando sistemas informáticos que recopilan y analizan datos en situaciones de conflicto. La calidad de estos conjuntos de datos y sistemas informáticos puede tener efectos profundos en el funcionamiento de la IA militar, pero la responsabilidad de las empresas de tecnología en los marcos del derecho internacional es mínima cuando estos sistemas de IA causan daños. Este artículo sostiene que un punto de partida para abordar este déficit de responsabilidad podría implicar la adopción de una regulación proactiva por parte de los Estados respecto a los habilitadores de datos, incluida la incorporación de procesos de gobernanza de datos en las revisiones nacionales de armas junto con acuerdos sui generis entre Estados y empresas de tecnología para garantizar la calidad y precisión de los datos. L’uso militare dell’intelligenza artificiale sta aumentando nell’ambito dei sistemi di decision making strategica e di puntamento. Per funzionare, tali sistemi richiedono grandi quantità di dati, tra cui informazioni relative alla sorveglianza e profilazione della popolazione, inferenze sui social media e filmati di droni. Le aziende tecnologiche private – Abilitatori di dati – offrono alle Forze Armate la possibilità di integrare le loro banche dati. Queste aziende offrono ai loro clienti l’accesso ad una gamma di servizi e prodotti che comprendono set di dati aggregati, analisi dei dati e sistemi software ad essi correlati. Questa potente combinazione fornisce alle Forze Armate set di dati a cui non avrebbero normalmente accesso e la possibilità di basarsi su questi tipi di dati utilizzando sistemi software che raccolgono ed analizzano I dati in situazioni di conflitto armato. La qualità di questi set di dati e sistemi software può avere profondi effetti sul funzionamento dell’IA militare, eppure la responsabilità delle aziende tecnologiche è minima nell’ambito del diritto internazionale quando tali sistemi di IA causano danni.Il presente elaborato sostiene che un punto di partenza per affrontare questo deficit di responsabilità potrebbe assumere la forma di una regolamentazione proattiva da parte degli Stati rispetto agli strumenti di abilitazione dei dati, comprendenti, nelle revisioni nazionali degli armamenti, processi di governance dei dati assunti insieme ad accordi sui generis tra Stati e aziende tecnologiche al fine di garantire la qualità e l’accuratezza dei dati. Die Verwendung von künstlicher Intelligenz für Militärzwecke ist auf dem Vormarsch im Bereich der Systeme der strategischen Entscheidungsfindung und der Zielerfassung. Für den Betrieb dieser Systeme sind große Datenmengen benötigt, darunter Informationen zur Überwachung und Profilerstellung der Bevölkerung, Rückschlüsse aus sozialen Medien und Drohnenaufnahmen. Heutzutage bieten private Technologieunternehmen („Data Enablers“) Soldaten die Möglichkeit, ihre Datenbanken zu ergänzen. Diese Unternehmen bieten ihren Kunden Zugang zu einer Reihe von Dienstleistungen und Produkten, einschließlich aggregierter Datensätze, Datenanalysen und dazugehöriger Softwaresysteme. Diese leistungsstarke Kombination verseht Soldaten mit Datensätzen, auf die sie normalerweise keinen Zugriff hätten, und ermöglicht es ihnen, auf diesen Datensätzen weiterzubauen mit Hilfe von Softwaresystemen, die Daten in Situationen bewaffneter Konflikte vergleichen und analysieren. Die Qualität dieser Datensätze und Softwaresysteme kann tief greifende Auswirkungen auf die Funktionsweise von militärischer KI haben. Dennoch müssen Technologieunternehmen kaum Rechenschaft in internationalen Rechtsrahmen ablegen, wenn diese KI-Systeme Schaden anrichten. In diesem Paper wird behauptet, dass Staaten als Ausgangspunkt zur Behebung dieses Rechenschaftsdefizits zu einer proaktiven Regelung von „Data Enablers“ übergehen könnten, unter anderem durch Einbeziehung von Verfahren für das Datenqualitätsmanagement in nationale Waffenüberprüfungen zusammen mit Vereinbarungen sui generis zwischen Staaten und Technologieunternehmen, um die Qualität und Richtigkeit der Daten zu gewährleisten.