AI-chatbots en stemadvies: een vertekend beeld.
Kunstmatige intelligentie lijkt neutraal, maar dat is vaak slechts schijn. Zeker rond verkiezingstijd.
De Autoriteit Persoonsgegevens (Dutch DPA) waarschuwt dat AI-chatbots, waaronder bekende generatieve AI-tools, vertekende of onjuiste stemadviezen kunnen geven. Niet zelden zijn die gebaseerd op onvolledige of scheve data. Het gevolg: kiezers worden mogelijk beïnvloed op basis van gebrekkige informatie. In het digitale tijdperk een risico van formaat .
Het probleem is fundamenteel. AI-systemen hebben geen moreel kompas . Ze genereren antwoorden op basis van trainingsdata, algoritmische afwegingen en gebruikersinteractie. Daarbij ontbreekt het vaak aan transparantie (artikel 13 AVG) én aan menselijke controle. De AI Act legt daarom stevige eisen op voor ‘algemene AI-systemen’ die op grote schaal worden ingezet. Denk aan transparantieverplichtingen, risicobeoordelingen (FRIA) en menselijke supervisie .
Voor organisaties die AI inzetten, ook als ze tools van derden gebruiken, geldt: weten wat je doet, en wat het risico is. Zeker als je AI gebruikt in een context met invloed op publieke meningsvorming, verkiezingen of maatschappelijke besluitvorming. De juridische en ethische lat ligt hoog.
Data & Business Legal ondersteunt organisaties bij deze uitdagingen, onder meer via de inzet van de Certified AI Compliance Officer (CAICO®). Van impactanalyses tot AI-governance, en van contractuele waarborgen tot beleid op verantwoord gebruik.
De waarschuwing van de AP is dus niet alleen relevant voor techbedrijven. Iedere organisatie die AI-tools inzet, heeft hier een verantwoordelijkheid te dragen. Want algoritmen hebben geen geweten, maar gebruikers wel
Zet jouw organisatie AI verantwoord in? Is er beleid, toezicht en bewustwording?
Tijd voor een audit of een AI-beleid op maat? Data & Business Legal denkt graag mee.
