"AI ontsnapt uit beveiligde omgeving"
Je zou bijna denken dat Terminator je morgen uit je bed komt tillen... 🙄
Wat is er gebeurd? Een AI-agent kreeg een opdracht en vond een onverwachte manier om via een omweg toegang te krijgen tot een externe chatbot, ondanks de beperkingen van zijn testomgeving. Dat is problematisch, maar nog iets heel anders dan een AI die plots zelfbewust wordt, zijn eigen wil ontwikkelt en besluit om te ontsnappen.
De uitdaging is dat we modellen steeds meer autonomie proberen te geven, opdat ze meer taken zelfstandig kunnen opnemen, maar dat ze zodanig goed worden in het letterlijk uitvoeren van die taken, dat mensen wat langer en beter moeten nadenken hoe ze de nodige guardrails opzetten, software- en hardware-matig. Dat is een reële uitdaging en eentje die we ernstig moeten nemen. Maar kunnen we alstublieft stoppen met elk veiligheidsincident te presenteren alsof de machines op het punt staan de wereld over te nemen?
Die stemmingmakerij helpt niemand. Ze creëert angst, vertroebelt deze mooie technologische evolutie en leidt de aandacht af van de werkelijke uitdagingen waar we met AI voor staan.
We hebben nood aan goede architectuur, meer mensen met expertise en degelijke governance, al dan niet opgelegd binnen een wettelijk, onderbouwd kader, opgesteld door experten (en niet door politiekers aub).