Maak gebruik van AI en vermijd de risico’s en vooroordelen ervan (blogpost)

Het integreren van AI in de workflow en kernwaarden van uw organisatie kan een concurrentievoordeel opleveren als het verantwoord en inclusief wordt gebruikt.

Hoewel generatieve AI een enorm potentieel biedt op de werkplek, waaronder verhoogde efficiëntie en productiviteit, brengt het ook aanzienlijke uitdagingen met zich mee op het gebied van gender- en raciale vooroordelen. Omdat organisaties AI steeds vaker omarmen, is het aanpakken van deze vooroordelen urgenter dan ooit.

Het Catalyst-webinar “Hoe generatieve AI te gebruiken zonder gender- en raciale vooroordelen” onderzocht strategieën voor het creëren ethische AI-praktijken die gelijkheid en inclusie op de werkplek bevorderen. Door de vooroordelen ervan te begrijpen en te verminderen, kunnen organisaties AI gebruiken als een hulpmiddel voor vooruitgang in plaats van een hulpmiddel dat versterkt ongelijkheden.

Het panel werd gemodereerd door Julie Cafley, Executive Director van Catalyst Canada, en bestond uit Cathy Cobey, Global Responsible AI Co-Lead van EY; Noelle Russell, Chief AI Officer van het AI Leadership Institute; en Michael Thomson, Executive Vice President van Edelman.

Hier zijn onze vijf belangrijkste inzichten uit de discussie:

1. Onderwijs in AI is essentieel om valkuilen te vermijden.
   AI kan de menselijke capaciteiten verbeteren, maar het brengt ook inherente risico’s met zich mee. Russell vergeleek AI met magie en benadrukte de capaciteit om eerdere data en gedragingen te gebruiken om besluitvorming te verfijnen, terwijl Cobey opmerkte dat “AI nog steeds door mensen wordt aangestuurd. Het handhaven van dit toezicht is essentieel in AI-ontwikkeling. Er zit altijd een goochelaar achter elke goocheltruc.”

   Alle panelleden waren het erover eens dat gebruikers beter onderwijs nodig hebben om AI effectief te gebruiken en potentiële risico’s te vermijden. “Er zit een duistere kant aan deze magie”, waarschuwde Thomson. “De transformerende kracht van AI biedt geweldige kansen, maar vereist robuuste risicomanagementstrategieën om te beschermen tegen de valkuilen.”

2. Begrijp dat alle AI inherent bevooroordeeld is.
   AI-systemen kunnen onbedoeld vooroordelen van hun trainingsdata. “Geen enkele dataset of persoon is vrij van vooroordelen”, zei Thomson.

   Datawetenschappers streven ernaar om holistische, empathische en inclusieve modellen te creëren, in de overtuiging dat hun innovaties gunstige resultaten zullen opleveren. “In het begin zijn deze modellen als babytijgers: schattig en vol potentieel”, aldus Russell. “Kritische vragen over hun impact op de lange termijn worden echter vaak over het hoofd gezien, wat leidt tot aanzienlijke uitdagingen naarmate AI-modellen volwassen worden en operationeel worden. Het is essentieel om te zorgen voor een diverse representatie gedurende het ontwikkelingsproces om vooroordelen effectief te minimaliseren.”

3. Implementeer krachtige AI-principes.
   AI-normen moeten worden verankerd in de kernwaarden van een organisatie, en niet als een bijzaak worden behandeld. “AI-principes moeten als water in een golf zijn, verweven in alles wat we doen”, aldus Russell. Ze adviseerde ook dat leiderschap hun denken moet veranderen en deze principes moet opnemen in de kernwaarden van de organisatie.

   Cobey voegde toe dat EY hun AI-principes in september 2023 heeft bijgewerkt om duurzaamheid op te nemen, waarbij ze de hoge mate van computerverwerking, energie- en waterverbruik opmerkte die betrokken is bij het uitvoeren van grote taalmodellen (LLM’s) en andere soorten AI-modellen. Ze wees er ook op dat sommige principes met elkaar in conflict kunnen zijn en dat er compromissen moeten worden gesloten. “Soms werkt beveiliging tegen transparantie en nauwkeurigheid tegen uitlegbaarheid”, zei ze. “Je moet kiezen welke principes en waarden het belangrijkst zijn, afhankelijk van het AI-gebruiksscenario.”

4. Omarm AI – voorzichtig – voor een concurrentievoordeel.
   “Het beste advies dat ik kan geven is om gewoon AI te gaan gebruiken,” zei Thomson. “Het kan in het begin intimiderend zijn, dus begin met kleine, beheersbare taken. AI is een hulpmiddel met beperkingen. Het is als een imperfecte eerste versie. Deel niet blindelings door AI gegenereerde informatie.” Hij vergeleek het met het gebruik van een rekenmachine voor complexe wiskunde, en zei: “Zonder zou ik moeite hebben, maar met AI ben ik efficiënt. AI kan dat hulpmiddel voor je zijn. Organisaties die AI effectief gebruiken, zullen degenen die dat niet doen, voorbijstreven, waardoor AI-training essentieel is voor iedereen. We moeten profiteren van deze hulpmiddelen, vooral als andere mensen dat niet doen.”
5. AI heeft al onze perspectieven nodig voor een betere toekomst.
   Actieve deelname aan AI-ontwikkeling is de weg vooruit. “We moeten het helpen betere beslissingen te nemen. Wij zijn onderdeel van de oplossing,” zei Cobey, eraan toevoegend dat gebruikers niet technisch onderlegd hoeven te zijn.

   Russell benadrukte het belang van diverse perspectieven bij het bouwen van AI-systemen die iedereen dienen, door te zeggen: “Bouw geen AI-systemen die iedereen dienen. voor mensen zonder die mensen. Het is belangrijk om te laten zien, niet te vertellen, wanneer je pleit voor diversiteit en inclusie.” Outsourcing van hoe AI in je organisatie wordt geïmplementeerd, waarschuwde ze, is onverstandig zonder diverse vertegenwoordiging.

Terwijl organisaties de complexe uitdagingen van het integreren van generatieve AI doorstaan, moeten ze zich richten op het handhaven van ethische normen die inclusiviteit bevorderen en vooroordelen verminderen. Door gewetensvol te implementeren AI-praktijken die diversiteit, gelijkheid en inclusie vooropstellenOrganisaties zullen de enorme voordelen van deze transformatieve technologie plukken, terwijl ze tegelijkertijd de gelijkheid op de werkvloer blijven bevorderen en hun kernwaarden blijven ondersteunen.

Wilt u meer van dit soort inzichten?

Ontvang Catalyst in uw inbox en begin met het bouwen van een inclusievere toekomst voor uzelf en uw organisatie.