Is ChatGPT wel zo veilig als we hopen?

vrijdag 8 november 2024

Artificial Intelligence [AI] heeft enorme sprongen voorwaarts gemaakt, wat ons talloze voordelen oplevert. Een toepassing als ChatGPT levert echter ook risico’s op. Nieuwe digitale deuren zijn geopend, maar sommige kunnen beter gesloten blijven.

Het is belangrijk u te realiseren dat ChatGPT geen mens is, maar een algoritme dat is ontworpen om menselijke interacties na te bootsen. Alle ingevoerde informatie wordt gebruikt om de chatbot te verbeteren, zonder moreel of ethisch besef. AI-toepassingen zoals spraakherkenning, gezichtsherkenning en geautomatiseerde vertalingen zijn ook toepasbaar voor criminelen. Want als een chatbox in staat is om razendsnel een coherente tekst te produceren, wat houdt individuen dan tegen om hetzelfde mechanisme te gebruiken voor criminele praktijken, zoals phishing of malware? 

Wat is ChatGPT?

De opmerkelijke ontwikkelingen in Artificial Intelligence [AI] zijn niet te ontkennen. Eén van de meest besproken innovaties is toch wel ChatGPT. ChatGPT is een AI-chatbot die is getraind om menselijke communicatie te imiteren. De gegenereerde teksten zijn nauwelijks nog te onderscheiden van menselijke input. Daarnaast wordt deze technologie gebruikt voor interactieve gesprekken, automatische vertalingen en het samenvatten van teksten. Stel een vraag, en binnen enkele seconden rolt er een uitgebreid antwoord uit de chatbot.

Hoe werkt ChatGPT?

ChatGPT maakt gebruik van machine learning om antwoorden te genereren op basis van de gegevens die het heeft geanalyseerd. Dit varieert van eenvoudige zinnen tot complexe antwoorden op specifieke vragen. De chatbot put uit een enorme dataset, bestaande uit miljarden woorden afkomstig van diverse online bronnen zoals websites, nieuwsberichten en boeken. Deze functionaliteit brengt echter aanzienlijke risico's met zich mee voor cyberveiligheid.

Wat zijn de risico’s?

Eén van de grootste risico's is de mogelijkheid voor het creëren van malware met behulp van ChatGPT. Door kwaadaardige code in de gegenereerde tekst in te voeren, kan een aanvaller schadelijke software ontwikkelen. Die software kan worden gebruikt om toegang te verkrijgen tot gevoelige informatie op computers of netwerken. Daarnaast bestaat het risico dat niet alle informatie die de chatbot deelt betrouwbaar is, aangezien het model zijn output baseert op een breed scala aan online bronnen. Dit kan resulteren in de verspreiding van desinformatie. Het is daarom van cruciaal belang om altijd kritisch te blijven.

Phishing 

Criminelen kunnen ook misbruik maken van de chatbot om zo waardevolle informatie te verkrijgen. Denk aan bijvoorbeeld phishing, waarbij een aanvaller zich voordoet als een betrouwbaar contact om informatie los te krijgen. Doordat ChatGPT in staat is om realistische conversaties te genereren die perfect aansluiten bij de 'toon en taal' van zo'n vertrouwd contact, worden deze aanvallen nog overtuigender én gevaarlijker. Phishing- berichten zijn simpelweg niet meer van echte te onderscheiden.

Wat deelt u wel en niet met ChatGPT?

Overweeg dus zorgvuldig welke informatie u deelt met ChatGPT, aangezien het onduidelijk is wat er met deze informatie gebeurt en waar deze terechtkomt. Persoonsgegevens en andere gevoelige informatie moeten dan ook niet met ChatGPT worden gedeeld.

Richtlijnen voor ChatGPT

Op dit moment zijn er nog geen specifieke veiligheidsprotocollen om de veiligheid van ChatGPT te waarborgen. Het recente besluit van de ministers van G7 tot extra regelgeving voor de ontwikkeling van kunstmatige intelligentie, benadrukt de urgentie van internationale samenwerking op dit gebied. Dit onderstreept het belang van voorzorgsmaatregelen om uw organisatie te beschermen tegen mogelijke risico's. Hoewel ChatGPT een fascinerende en innovatieve technologie is, is het zaak voorzichtig te handelen.

Bekijk de ChatGPT veiligheidsinstructie van onze partner Cubics.