CIO Streeft naar Uitbreiding van het Team door het Creëren van Digitale Klonen van Personeel

De CIO van UC San Diego wil AI-agenten en digitale tweelingen gebruiken om IT-werk te automatiseren, de cyberbeveiliging te verbeteren en de lasten voor het personeel te verlichten.

Tijdens de Cisco Live conferentie van deze week stelde Dr. Vince Kellen voor om AI-agenten en digitale tweelingen van ervaren IT-personeel te gebruiken voor het afhandelen van repetitieve taken en nachtelijke noodgevallen, zoals eerst gemeld door The Register.

Spreekend voor een vol publiek, zei Kellen: “Alle wegen leiden naar hoge niveaus van automatisering waar we maar kunnen”, meldt The Register.

De universiteit functioneert als een kleine stad omdat het elke dag meer dan 100.000 mensen verwelkomt, terwijl het te maken heeft met dalende studentenaantallen en beperkte financiële middelen

Kellen voorspelt dat AI-systemen kennis zullen vergaren van technische medewerkers om in de toekomst aan de toenemende vraag te kunnen voldoen. “We hebben al deze kennis in mensen over netwerkbeleid dat we op een soort druppelirrigatie-manier uit hun hoofd moeten krijgen,” zei hij, zoals gerapporteerd door The Register.

Kellen gelooft dat het langzaam overbrengen van deze kennis naar AI IT-teams in staat zou stellen hun werklast te verminderen en de netwerkprestaties te verbeteren.

Het Oceanografisch Instituut aan de UCSD heeft ook te maken met bedreigingen voor de nationale veiligheid. “Wanneer je sonar in het water plaatst, ontdek je meer dan alleen vissen, en andere landen willen daarover geïnformeerd worden,” waarschuwde hij, zoals gerapporteerd door The Register.

Door buitenlandse gesteunde cyberaanvallen worden steeds geavanceerder, waardoor het personeel gedwongen wordt om basisverdedigingsmechanismen te automatiseren zodat ze zich kunnen concentreren op gevaarlijkere bedreigingen.

Kellen gelooft dat AI “het potentieel heeft om proactieve detectie van problemen mogelijk te maken” en ziet digitale klonen als een manier om de expertise van personeel te behouden, terwijl hun last wordt verlicht. “Dan hoeft die persoon niet gemarteld te worden als er een ander incident is. Ze worden de volgende keer niet gebeld,” voegde hij toe, zoals gemeld door The Register.

Zijn idee roept een prikkelende vraag op: Zou je je werkgever je expertise digitaal laten klonen als dat zou betekenen dat je minder stressvolle oproepen zou krijgen? Naarmate de automatisering groeit, kan de grens tussen menselijk en machinaal werk vervagen, maar voor IT-teams zou dit een broodnodige verlichting kunnen betekenen.

Echter, verhoogde automatisering brengt ook cybersecurity problemen met zich mee. Systemen die worden bediend door geautomatiseerde IT-medewerkers en AI-agenten vormen aantrekkelijke doelwitten voor hackers, aangezien een aanval op deze systemen tot uitgebreide verstoringen zou kunnen leiden.

Inderdaad, een gecompromitteerd digitaal tweeling kan worden gebruikt om beveiligingsprotocollen te omzeilen en malware sneller te verspreiden dan menselijke operators.

Een rapport van het World Economic Forum stelt dat aanvallers AI-trainingsdata kunnen besmetten of kwetsbaarheden in AI-modellen kunnen ontdekken, wat resulteert in systeemfouten of het genereren van incorrecte output.

Deze “data vergiftiging” en model exploitatie aanvallen zijn vaak gemakkelijk uit te voeren maar moeilijk te verdedigen, aangezien huidige beveiligingsmaatregelen ontoereikend zijn, zoals opgemerkt door ITPro.

Ondanks deze risico’s erkent 96% van de IT-professionals AI-agents als een veiligheidsdreiging, maar de meeste organisaties haasten zich om ze te implementeren zonder de juiste controles of beleid, zoals gerapporteerd door ZDNet.