Is jouw chatbot wel te vertrouwen? Daar kwam Lenovo op een vervelende manier achter

Ze zijn goedkoop, snel en efficiënt. Chatbots worden dan ook steeds vaker ingezet, zowel door bedrijven als door particulieren. Dat ze onpersoonlijk zijn, nemen we daarbij op de koop toe. Het wordt een ander verhaal als blijkt dat deze chatbots alles doorvertellen wat hun is toevertrouwd. Dat doen ze natuurlijk niet bewust, maar wel als gevolg van menselijke fouten. Daar kwam Lenovo laatst nog op een hele vervelende manier achter.

Een pijnlijke prompt

Bezoekers van de website van Lenovo kunnen hun vragen stellen aan een chatbot. Ze krijgen dan veel sneller antwoord op hun ingevoerde prompt, dan wanneer ze met de klantenservice zouden bellen. De chatbot is zodanig geprogrammeerd dat ze iedereen zo goed mogelijk tot dienst wil zijn. En daaronder vallen ook mensen met kwade intenties.

Zo zijn hackers erin geslaagd om de chatbot te ‘injecteren’ met een enkele prompt van 400 karakters. Binnen een mum van tijd genereerde de chatbot een antwoord in HTML met een schadelijke link naar een nepafbeelding. Toen het niet lukte om de afbeelding te laden, werd de browser gedwongen om verbinding te maken met de server van de aanvaller. En zo gebeurde het dat de sessiecookies werden gelekt. Op deze manier hadden de hackers toegang kunnen krijgen tot alle gegevens die bewaard en verwerkt worden door de klantenservice.

Risico’s

Het incident toont aan dat er geen toezicht is op wat er kan worden ingevoerd. En ook niet op wat er vervolgens uitkomt. Chatbots zijn iedereen ter wille en discrimineren daarbij niet. Organisaties die zelf gebruikmaken van chatbots als uitbreiding of zelfs vervanging van hun klantenservice moeten zich hier goed van bewust zijn. Een enkele prompt kan leiden tot een groot datalek, en daar is de organisatie zelf verantwoordelijk voor.

Boetes

De kans is groot dat een bedrijf of organisatie zo’n datalek niet meer te boven komt. De AVG schrijft voor dat ze zorgvuldig om moeten gaan met gegevens en deze zo goed mogelijk moeten beschermen. Een datalek toont aan dat dat dus niet gelukt is. De Autoriteit Persoonsgegevens kan het bedrijf of de organisatie in kwestie vervolgens een boete opleggen.

Reputatieschade

Een datalek moet ook altijd gemeld worden, zowel bij de Autoriteit Persoonsgegevens als bij alle betrokkenen. Als klanten en relaties erachter komen dat er onzorgvuldig met hun gegevens werd omgesprongen, heeft dat gevolgen voor de toekomst. Ze zullen in het vervolg minder snel geneigd zijn om zaken te doen met het bedrijf of de organisatie in kwestie.

Vervolgschade

Met de gegevens die ze hebben buitgemaakt, kunnen cybercriminelen nog meer schade aanrichten. Als daar inloggegevens tussen zitten, krijgen ze rechtstreeks toegang tot accounts of zelfs hele netwerken. Hebben ze deze inloggegevens nog niet, dan kunnen ze die via spear phishing alsnog achterhalen. Ze benaderen dan heel gericht een bepaalde persoon, bijvoorbeeld een medewerker van de klantenservice. Omdat ze al allerlei informatie over die persoon hebben, kunnen ze diens vertrouwen sneller wekken. Ook kunnen ze gegevens doorverkopen op het dark web.

Voorkomen

AI kan een waardevolle bijdrage leveren aan verschillende werkprocessen, maar levert ook extra risico’s op. Laat thuiswerkers via een VPN werken, om er zeker van te zijn dat ze een veilige en versleutelde verbinding gebruiken. Zo wordt het hackers heel moeilijk gemaakt om dataverkeer te onderscheppen en in te lezen.

Laat iedereen binnen de organisatie ook alert blijven op phishingaanvallen. Cursussen en trainingen helpen om phishing en andere digitale dreigingen op tijd te herkennen en af te wenden. Zorg voor een duidelijk en goed vindbaar protocol voor wanneer het toch misgaat. Herinner alle medewerkers eraan dat ze sterke wachtwoorden kiezen voor hun werkaccounts en deze regelmatig moeten veranderen. Kies, indien mogelijk, voor tweefactorauthenticatie.

Chatbots zijn afhankelijk van de input. Druk alle medewerkers dan ook op het hart om nooit vertrouwelijke gegevens in hun prompts te verwerken. Daaronder vallen persoonsgegevens, BSN-nummers, wachtwoorden, maar ook bedrijfsinformatie. Kortom; alles waarvan je niet wilt hebben dat het openbaar wordt.