De Indiase overheid heeft recentelijk een richtlijn uitgevaardigd die technologiebedrijven oplegt om goedkeuring van de overheid te verkrijgen voordat nieuwe kunstmatige intelligentie (KI) tools worden vrijgegeven.
Dit beleid, dat bedoeld is om de nauwkeurigheid en betrouwbaarheid van AI-tools die toegankelijk zijn voor Indiase gebruikers te waarborgen, benadrukt de noodzaak voor dergelijke tools om duidelijk gemarkeerd te zijn indien ze mogelijk onjuiste antwoorden kunnen geven.
Google’s Gemini debacle
Deze stap wordt gezet in de context van aanstaande algemene verkiezingen en is een reactie op recente incidenten waarbij AI-tools, waaronder Google’s Gemini, onnauwkeurige of bevooroordeelde reacties hebben gegenereerd. Met name werd er kritiek geuit op antwoorden die de Indiase premier Narendra Modi in een negatief daglicht stelden. Google heeft zich verontschuldigd voor de tekortkomingen van Gemini en erkend dat de tool niet altijd betrouwbaar is, vooral niet bij actuele sociale onderwerpen.
De Indiase adjunct-minister van IT, Rajeev Chandrasekhar, benadrukte dat veiligheid en vertrouwen wettelijke verplichtingen zijn van platforms, en dat het label “Sorry, onbetrouwbaar” hen niet vrijstelt van wettelijke aansprakelijkheid. Chandrasekhar reageerde ook op kritiek uit de techgemeenschap over de nieuwe adviesrichtlijn, door te stellen dat India zich sterk maakt voor AI en dit ziet als een essentieel onderdeel van de uitbreiding van zijn digitale en innovatie-ecosysteem. Hij verduidelijkte dat de richtlijn bedoeld is om aanbieders van experimentele of onvoldoende geteste AI-platforms bewust te maken van hun verplichtingen en de mogelijke gevolgen volgens Indiase wetten.
Deze regelgeving komt naast eerdere aankondigingen van de Indiase overheid over nieuwe reguleringen om de verspreiding van door AI gegenereerde deepfakes voor de verkiezingen tegen te gaan, een stap die ook door regelgevers in de Verenigde Staten is genomen.
Ondanks weerstand uit de techgemeenschap, die beweert dat dergelijke reguleringen India’s leidende positie in de techruimte kunnen ondermijnen, blijft de Indiase overheid zich inzetten voor een veilig en betrouwbaar internet voor haar burgers, met speciale aandacht voor de integriteit van het electorale proces.
