Marktsegment Orde en veiligheid

Wat houdt het in?

Op dit moment worden de meeste drones die operationeel ingezet worden op afstand bestuurd en nog niet autonoom ingezet. KI wordt daar nog niet in toegepast, maar dat is wel mogelijk. Kunstmatige intelligentie kan ingezet worden om systemen zoals drones, met iets minder effort operationeel te gebruiken en in taken te ondersteunen.

Defensie zet veel drones in. Drones gaan voor een belangrijk deel de gereedschapskist van de krijgsmacht bepalen. Drones worden op dit moment door de Landmacht ingezet:

• Verkenning en surveillance: drones kun je gebruiken om doelen te identificeren, te volgen en te markeren voor luchtaanvallen of artilleriebeschietingen. Je zet ze in om verkenningsmissies uit te voeren en cruciale informatie te verzamelen over vijandige posities, terreinomstandigheden en andere relevante gegevens. Ze kunnen realtime beelden en video's vastleggen en bieden nauwkeurige en gedetailleerde informatie over potentiële doelen, wat de effectiviteit van militaire operaties vergroot. Defensie heeft begin 2023 vier Reaper-drones gekocht. Met superscherpe camera’s kunnen deze drones doelwitten op de grond bespieden en (in oorlogssituatie) een bom gooien. (Goedemorgen Nederland, 2023 en Visser, 2023) Ook satelliettechnologie is steeds beter in staat om een gebied in kaart te brengen en kan steeds beter communicatie ondersteunen of verstoren.
• Lucht- en artillerieaanvallen: gewapende drones, ook wel bekend als UAV's (unmanned aerial vehicles) of UCAV's (unmanned combat aerial vehicles), gebruikt men voor aanvallen op vijandelijke doelen. Voor deze drones is nog geen sprake van de inzet van KI. De drones worden door een operator bedient. De operator kan de drone uitrusten met verschillende soorten wapens, zoals raketten of geleide bommen, en ze kunnen met grote precisie doelen aanvallen. Oekraïne gebruikt op dit moment drones om door o.a. Nederland geleverde pantserhouwitsers effectiever op doelen te laten schieten. Normaliter heb je een forward observer die de informatie geeft die een geschut corrigeert om het doel te raken, maar met drones kan dat veel effectiever. Zo kun je meer gerichte schoten lossen voordat je het geschut moet verplaatsen, nadat het doel onderkend is. (EenVandaag, 2022)
  • Logistieke ondersteuning: op afstand bestuurbare drones kun je inzetten voor het vervoer van voorraden en eventueel gewonde soldaten, medische benodigdheden en andere essentiële goederen naar afgelegen of gevaarlijke gebieden. Je kunt ze ook gebruiken voor het opzetten van communicatie-infrastructuur en het uitvoeren van zoek- en reddingsoperaties. In de toekomst is dit mogelijk met autonome navigatie, maar dat is heel lastig in militaire omstandigheden.
• Patrouilles en bewaking: drones, bedient door een operator, kun je inzetten voor het monitoren van grenzen, maritieme gebieden en andere strategisch belangrijke locaties. Ze bieden continue bewaking en kunnen verdachte activiteiten detecteren, zoals smokkelpraktijken of ongeautoriseerde infiltratie.

Wat houdt het in?

Autonome wapens worden in Nederland nog niet operationeel ingezet. Wel worden ze internationaal door bepaalde landen ingezet, maar daarvan is niet altijd duidelijk of daarbij KI wordt ingezet. Zo kunnen veel militaire missiles op basis van “optische” geleiding naar hun doelwit vliegen.

Wapens en gevechtssystemen functioneren steeds autonomer. Autonome wapens zijn wapensystemen die in staat zijn om doelen te selecteren en aan te vallen zonder menselijke tussenkomst. Producenten van de nieuwste wapensystemen maken zich sterk dat hun producten al functioneren zonder mens in de commandokeet. Ze gebruiken algoritmen en sensoren om beslissingen te nemen en acties uit te voeren op basis van vooraf geprogrammeerde regels of gegevensverwerking. Daarbij vaak geen sprake van de inzet van KI. Ondanks dat er vaak geen sprake is van de inzet van KI, melden we in dit rapport toch diverse voorbeelden om een overzicht te geven van de huidige ontwikkelingen die er zijn.

Het concept van autonome wapens heeft zowel militaire als juridische ethische implicaties en is daarom nog in de experimentele fase. Een mbo-opgeleide beroepsbeoefenaar krijgt er dan ook niet snel mee te maken. Voorstanders beweren dat deze wapensystemen voordelen kunnen bieden, zoals een snellere en efficiëntere reactie op bedreigingen, het verminderen van het risico voor militairen en het minimaliseren van menselijke fouten. Ook zijn autonome wapens, in tegenstelling tot mensen, niet gevoelig voor corruptie en laten ze zich niet leiden door haat, afkeer of wraak. Je kunt ze ook positioneren als afschrikmiddelen, omdat de mogelijkheid om autonome wapens in te zetten potentiële tegenstanders kan ontmoedigen.

Tegenstanders uiten echter bezorgdheid over de potentiële gevaren van autonome wapens. Zij wijzen op het gebrek aan menselijke controle, het risico op onbedoelde escalatie van conflicten en de mogelijke schending van ethische en juridische normen, zoals het onderscheid tussen burgerdoelen en militaire doelen. Gevoelens zoals medeleven en genade zijn niet van toepassing. De wetenschapsfilosoof Peter Asaro noemt omkomen door een robot ‘een onwaardige dood’. Als wij ze de macht geven om legaal te doden, dan verliezen we onze waardigheid. Die robots kun je de opdracht geven om te focussen op de eigenschappen waarmee een bepaalde groep mensen zich onderscheidt – zoals huidskleur, kleding, leeftijd – en die uit te schakelen. Dat maakt autonome wapens zeer ‘geschikt’ om genocides uit te voeren, waarschuwen de mensen van de Campaign to Stop Killer Robots. “Het is toch ondenkbaar dat het beslissende gevecht tussen robots gebeurt? Alsof het een computerspel is.” – Ulrike Franke van de denktank European Council on Foreign Relations (ECFR). Er zijn ook zorgen over de mogelijkheid van hackers om autonome wapensystemen te misbruiken of te manipuleren. (Standaard.Be, 2022)

Verschillende KI-wetenschappers verwachten dat de inzet van autonome wapens oorlog minder destructief maakt. Het biedt de mogelijkheid van minder dodelijke slachtoffers door de precisie van autonome wapens. In tegenstelling tot een mens kan een robot het zich permitteren om pas te schieten nadat hij beschoten is. Maar dat brengt ook nadelen met zich mee: als er minder slachtoffers vallen, zullen politici ook minder druk voelen om soldaten te sparen en kunnen oorlogen sluimeren en minder gemakkelijk te beëindigen zijn.(WRR, 2021)

Er zijn diverse internationale voorbeelden van autonome wapens die men inzet. Daarbij is niet altijd duidelijk of er sprake is van objectherkenning door KI. Veel militaire missies kunnen op basis van “optische” geleiding naar hun doelwit vliegen. Dat heeft niks met AI te maken, in de vorm van Machine learning. Ondanks dat de inzet van KI niet altijd duidelijk is, melden we de volgende voorbeelden om een overzicht te geven van de huidige ontwikkelingen die er zijn:

• In mei 2020 werden de troepen van generaal Haftar in Libië onder vuur genomen door kamikaze-drones. Volgens een rapport van de Verenigde Naties ging het om een STM Kargu-2, een drone van Turkse makelij die zonder menselijke tussenkomst een doelwit kan uitkiezen en vervolgens autonoom beslist om zich in een duikvlucht op dat doel te storten. Of er in dit geval daadwerkelijk geen menselijk commando was, is niet bekend.
• Israël schiet met de Iron Dome of IJzeren Koepel, het volautomatische afweergeschut, Palestijnse raketten uit de lucht. De Iron Dome detecteert de raketten en beslist zelf of hij ze moet vernietigen. Ten minste dertig landen hebben defensiesystemen die, wanneer zij ingeschakeld zijn, autonoom inkomende gevaren als raketten kunnen neerhalen.
• Op de grens tussen Noord- en Zuid-Korea, in de gedemilitariseerde zone, staat de robotschildwacht Samsung Techwin SGR-A1. Die kan dieren van mensen onderscheiden en indringers al op vier kilometer opmerken. (WRR, 2021 en Standaard.Be, 2022)

Defensie ontwikkelt methoden, zoals onbemande systemen, om met hetzelfde aantal mensen meer werk te doen. Een voorbeeld is de inzet van de zogenoemde robotica- en autonome systemen (RAS) voor landoptreden. De ras-eenheid is een bekende eenheid die veel aan het experimenteren is met onbemande systemen. Het Nederlandse detachement in Litouwen, onderdeel van de langlopende NAVO-missie, heeft ervaring opgedaan met bewapende rupswagentjes van het bedrijf Milrem Robotics. De MilRem is een op afstand bestuurbaar rupsvoertuig, bestemd voor meerdere taken op bijvoorbeeld het gebied van transport, of bij verkenningen. Ook dient het als wapenplatform. Bij de Koninklijke Landmacht zien ze het potentieel: om gevaarlijk werk op afstand te doen en als antwoord op het nijpende personeelstekort. De marechaussee is aan het experimenteren met Deep Vision, dat automatisch informatie uit beelden haalt.

Wat houdt het in?

Sommige omgevingen, zoals rampplekken, zijn te gevaarlijk voor menselijke inspecteurs. Maar robots kunnen daar wel aan de slag. TNO ontwikkelt daarom de intelligentie voor de robothond SPOT van Boston Dynamics, die ingezet kan worden om te ondersteunen bij een reddingsoperatie. SPOT kan vooral in bekend terrein goed werk doen. In onbekend terrein is veel menselijke begeleiding nodig. Als je de robothond goed traint, kan hij surveilleren en risicovolle verkenningstochten uitvoeren. Met 360 graden zicht en infraroodlaser heeft Spot binnen no time in de gaten wat er om hem heen gebeurt. Robothond Spot beschikt over oneindig veel mogelijkheden waar operationele marechaussees in de toekomst de vruchten van kunnen plukken. TNO onderzoekt momenteel ook wat er nodig is om de robothond in te kunnen zetten tijdens reddingsoperaties. Dan zal hij mensen dus niet alleen kunnen helpen, maar zelfs in een rampsituatie ook mensenlevens redden. Als je de robothond daadwerkelijk inzet voor inspecties en reddingsoperaties, kun je hem vanaf een afstandje volgen. Hij stuurt namelijk constant informatie door over zijn vorderingen. (Ensie, 2021 en TNO, z.d.)

In deze video van Werken bij Defensie maak je kennis met robothond Spot. De video is opgenomen in Den Haag, waar de Koninklijke Marechaussee zit. Wat kan deze robot van de toekomst en hoe kan de Koninklijke Marechaussee hulp krijgen van Spot? 

Wat houdt het in?

Nederland heeft een goede digitale infrastructuur. Voor veel voorzieningen is een digitale manier van communiceren de norm. Je kunt in Nederland niet zonder internetbankieren en DigiD. Wegens onze sterke digitale infrastructuur is Nederland echter een interessant doelwit voor cyberaanvallen. Je kunt KI gebruiken om het normale gedrag van gebruikers, systemen en netwerken te leren en te analyseren. Op basis van deze analyse kun je afwijkend gedrag detecteren dat kan wijzen op een mogelijke cyberaanval, zoals ongeautoriseerde toegangspogingen of verdachte activiteiten. Ook kun je KI gebruiken om kwetsbaarheden in systemen en software te identificeren. KI kan door gebruik te maken van algoritmen verdachte bestanden analyseren en classificeren op basis van kenmerken en gedragspatronen die verband houden met bekende malware.

Preventie van digitale dreigingen vereist kennis van welke IT-componenten in welke versie in huis zijn en welke kwetsbaarheden die bevatten. Dat maakt in elk geval IT-beheer en -onderhoud gemakkelijker en zorgt ervoor dat Defensie minder tijd verliest bij cyberaanvallen. Het systeem controleert IT-componenten bij het opstarten, maar ook gedurende het gebruik, automatisch op integriteit. Hetzelfde geldt voor componenten die voor onderhoud uit het platform zijn verwijderd en weer zijn teruggezet. Voor de meest kritieke toepassingen kun je de integriteit zelfs op chipniveau garanderen. Cybersecurity vindt steeds meer plaats op chipniveau. Omdat handmatig zoeken naar kwetsbaarheden in alle systemen ondoenlijk is, zet men meerdere technieken in, zoals kunstmatige intelligentie, om kwetsbaarheden op te sporen en zo veel mogelijk automatisch te patchen.

Ook elektronische oorlogsvoering (EOV) verstoort signalen. Elektronische oorlogsvoering is een van de sleutelelementen van het moderne gevechtsscenario: de eigen strijdkrachten beschermen tegen aanvallen, de vijand informatie ontzeggen en zijn eigen spraakcommunicatie en datalinks onderscheppen en verstoren. In feite is EW een voortdurende oorlog tussen actieve systemen die "aanvallen" en defensieve systemen die beschermen.

In een operationele omgeving vinden op alle systemen periodieke testen op weerbaarheid plaats. Die zijn grotendeels geautomatiseerd om mensen en middelen te besparen. Defensieve technieken om automatisch kwetsbaarheden te vinden op eigen systemen kun je ook toepassen op die van tegenstanders, en ze daarna omzetten in exploits: codes om de kwetsbaarheden te misbruiken. (TNO, 2022.) Dit is niet waar een beroepsbeoefenaar op mbo-niveau in het veiligheidsdomein zozeer mee te maken heeft, het is meer het werk van ICT’ers. Wel is het goed om te weten dat deze ontwikkeling speelt.

Wat houdt het in?

De veelheid aan informatie leidt tot uitdagingen hoe beroepsbeoefenaars alle informatie kunnen verwerken. Ze hebben ondersteuning nodig van intelligente systemen. Steeds vaker zet men intelligente, virtuele assistenten (IVA) in om informatie effectiever te filteren voor de gebruiker en om zelfs proactief verschillende gefragmenteerde informatiebronnen te doorzoeken. (Capgemini, 2021) De grote hoeveelheid aan beschikbare data en de behoefte aan data roept wel de vraag op hoe je moet omgaan met ieders privacy. Wat is wel en niet geoorloofd, welke data mag je wel of niet gebruiken? Organisaties in de veiligheidskolom hebben toegang tot talloze databanken. Daarnaast zorgen internet, Facebook, Google en de smartphone voor steeds nieuwe inbraken in de privacy. Er zijn dan ook veel discussies over de vraag in hoeverre privacy moet wijken voor veiligheid. (Maarten, 2021) 

Militaire conflicten hebben tegenwoordig ook te maken met een digitaal ‘slagveld’, waar men op de sociale media strijdt om het juiste frame en de publieke opinie in het eigen land en in andere landen te beïnvloeden. KI zet men op allerlei manieren in bij deze ‘informatieoorlog’. Allereerst via microtargeting. Het gaat daarbij om het maken van profielen van mensen om erachter te komen welke boodschappen het beste bij hen resoneren. Daarnaast gebruikt men sentiment analysis en natural language processing om populaties beter te begrijpen en ze vervolgens bijvoorbeeld gerichte berichten te sturen. 

Er is sprake van social engineering. Dat is het manipuleren van mensen om vertrouwelijke informatie te achterhalen. Een andere oprukkende toepassing is deepfake. Het gaat hierbij om de productie van nepbeelden of geluidsfragmenten die moeilijk van echt te onderscheiden zijn. Nepbeelden betreffen ook het creëren van totaal nieuwe beelden. Hiervoor gebruikt men generative adversarial networks (gan’s). Daarmee maak je nepgezichten van niet-bestaande mensen. Die beelden zijn inmiddels zo goed dat veel mensen ze niet kunnen onderscheiden van echte foto’s. Nog gevaarlijker wordt het als er beelden worden gemaakt van bestaande mensen. Dan is het nog lastiger om waarheid en fictie te onderscheiden. Gebeurtenissen en handelingen van mensen zijn op beeld te zetten die nooit hebben plaatsgevonden, maar die niet van echt te onderscheiden zijn. Meer en meer landen zetten desinformatie ook in als wapen. (WRR, 2021)

Het Defensie Cyber Security Centrum (DCSC) ëxperimenteert veel met KI voor anomaliedetectie. KI of eigenlijk Data Science is veel beter dan mensen in staat om grote hoeveelheden data te analyseren, patronen te herkennen en veranderingen daarin op te merken. Die veranderingen kunnen aanwijzingen zijn voor cyberaanvallen. KI is in staat daar snel tegenmaatregelen op te identificeren en eventueel uit te voeren. Het DCSC moet ervoor zorgen dat militaire operaties geen hinder ondervinden van digitale dreigingen en dat de informatiesystemen van Defensie betrouwbaar blijven. Hiervoor moet DCSC:
• cyberdreigingen op tijd zien;
• de kwetsbaarheden onderzoeken binnen defensiesystemen;
• onderzoeken hoe groot de dreiging is;
• zorgen dat de dreiging vermindert of verdwijnt.