Voorlopig akkoord over AI-Act in Europa

Na lang onderhandelen is er 8 december 2023 een voorlopig akkoord in Europa gekomen over de ‘AI-Act’ die de toepassingen van Artificiële Intelligentie moet gaan reguleren. De discussie spitste zich met name toe op de verplichtingen over  de ‘Hoog-risico toepassingen van AI’, denk hierbij aan het gebruik van biometrische gegevens en de beperking in gebruik daarvan. Ook AI-systemen die mogelijk de uitkomst van verkiezingen beïnvloeden worden als hoog-risico bestempeld.

Voor generatieve AI-systemen, zoals ChatGPT, gaan transparantieregels gelden met name op het gebied van hun trainingsdata.

Aanbieders van chatbots in webwinkels, deepfake technieken of generatieve AI-systemen moeten ervoor zorgen dat het voor mensen duidelijk is dat ze met een AI praten of dat content door AI is gemaakt. AI-systemen met geen tot weinig risico’s voor mensen hoeven niet aan extra eisen te voldoen. Dit zijn bijvoorbeeld AI-systemen voor klantenservices, voor voorraadbeheer of voor laag-risico data.

De boetes bij overtreding kunnen fors zijn, tot 35 miljoen euro of 7% van de totale omzet.

Het akkoord moet nog wel worden goedgekeurd door alle EU-lidstaten en het hele Europees Parlement. De wet treedt na twee jaar in werking, maar delen zoals de transparantieverplichting kunnen al eerder gaan gelden.

De Academy van de Mediafederatie heeft het afgelopen jaar veel aandacht besteed aan AI, zowel aan de juridische aspecten als de praktische toepassingen. Op 1 februari 2024 staat er weer een webinar gepland over werken met ChatGPT (zie https://www.mediafederatie.nl/agenda/werken-met-chatgpt).