Verantwoorde AI

Het is belangrijk dat softwaretechnici rekening houden met de impact van hun software op gebruikers en de samenleving in het algemeen; met inbegrip van overwegingen voor het verantwoordelijke gebruik. Wanneer de toepassing wordt voorzien van kunstmatige intelligentie, zijn deze overwegingen vooral belangrijk vanwege de aard van de werking van AI-systemen en het informeren van beslissingen; vaak gebaseerd op probabilistische modellen, die op hun beurt afhankelijk zijn van de gegevens waarmee ze zijn getraind.

De menselijke aard van AI-oplossingen is een belangrijk voordeel bij het gebruiksvriendelijk maken van toepassingen, maar het kan gebruikers ook leiden tot een groot vertrouwen in het vermogen van de toepassing om juiste beslissingen te nemen. Het potentieel voor schade aan individuen of groepen door onjuiste voorspellingen of misbruik van AI-mogelijkheden is een groot probleem en softwaretechnici die ai-oplossingen bouwen, moeten rekening houden met het beperken van risico's en het garanderen van billijkheid, betrouwbaarheid en adequate bescherming tegen schade of discriminatie.

Laten we enkele kernprincipes bespreken voor verantwoorde AI die zijn aangenomen bij Microsoft.

Eerlijkheid

AI-systemen moeten alle mensen eerlijk behandelen. Stel dat u een machine learning-model maakt ter ondersteuning van een aanvraag voor goedkeuring van een lening voor een bank. Het model moet voorspellingen doen over of de lening al dan niet moet worden goedgekeurd zonder vooroordelen op te nemen op basis van geslacht, etniciteit of andere factoren die kunnen leiden tot een oneerlijk voordeel of nadeel voor specifieke groepen aanvragers.

Fairness of machine learned systems is een zeer actief gebied van doorlopend onderzoek en sommige softwareoplossingen bestaan voor het evalueren, kwantificeren en beperken van oneerlijkheid in machine learning-modellen. Het gebruik van hulpprogramma's is echter niet voldoende om eerlijk te zijn. Houd rekening met redelijkheid vanaf het begin van het proces voor het ontwikkelen van toepassingen; zorgvuldige controle van trainingsgegevens om ervoor te zorgen dat deze representatief zijn voor alle mogelijk betrokken onderwerpen en voorspellende prestaties evalueren voor subsecties van uw gebruikerspopulatie gedurende de hele ontwikkelingslevenscyclus.

Betrouwbaarheid en veiligheid

AI-systemen moeten betrouwbaar en veilig presteren. Denk bijvoorbeeld aan een op AI gebaseerd softwaresysteem voor een autonoom voertuig; of een machine learning-model dat symptomen van patiënten diagnosticeert en recepten aanbeveelt. Ontrouw in dit soort systemen kan leiden tot een aanzienlijk risico voor het menselijk leven.

Net als bij elke software moet de ontwikkeling van op AI gebaseerde softwaretoepassingen worden onderworpen aan strenge test- en implementatiebeheerprocessen om ervoor te zorgen dat ze werken zoals verwacht voordat ze worden uitgebracht. Daarnaast moeten softwaretechnici rekening houden met de probabilistische aard van machine learning-modellen en de juiste drempelwaarden toepassen bij het evalueren van betrouwbaarheidsscores voor voorspellingen.

Privacy en beveiliging

AI-systemen moeten veilig zijn en de privacy waarborgen. De machine learning-modellen waarop AI-systemen zijn gebaseerd, zijn afhankelijk van grote hoeveelheden gegevens, die persoonlijke gegevens kunnen bevatten die privé moeten worden gehouden. Zelfs nadat modellen zijn getraind en het systeem in productie is, gebruiken ze nieuwe gegevens om voorspellingen te doen of actie te ondernemen die mogelijk onderhevig zijn aan privacy- of beveiligingsproblemen; dus passende beveiligingsmaatregelen om gegevens en klantinhoud te beschermen, moeten worden geïmplementeerd.

Inclusiviteit

AI-systemen moeten iedereen in staat stellen en mensen betrekken. AI moet voordelen opleveren voor alle delen van de samenleving, ongeacht het fysieke vermogen, geslacht, seksuele geaardheid, etniciteit of andere factoren.

Een manier om te optimaliseren voor inclusiviteit is ervoor te zorgen dat het ontwerp, de ontwikkeling en het testen van uw toepassing invoer bevat van zo divers mogelijk een groep mensen.

Doorzichtigheid

AI-systemen moeten begrijpelijk zijn. Gebruikers moeten zich volledig bewust worden gemaakt van het doel van het systeem, hoe het werkt en welke beperkingen er kunnen worden verwacht.

Wanneer een AI-systeem bijvoorbeeld is gebaseerd op een machine learning-model, moet u in het algemeen gebruikers op de hoogte stellen van factoren die van invloed kunnen zijn op de nauwkeurigheid van de voorspellingen, zoals het aantal gevallen dat wordt gebruikt om het model te trainen, of de specifieke functies die de meeste invloed hebben op de voorspellingen. U moet ook informatie delen over de betrouwbaarheidsscore voor voorspellingen.

Wanneer een AI-toepassing afhankelijk is van persoonlijke gegevens, zoals een systeem voor gezichtsherkenning waarin afbeeldingen van personen worden gebruikt om ze te herkennen; u moet de gebruiker duidelijk maken hoe hun gegevens worden gebruikt en bewaard en wie er toegang tot heeft.

Verantwoordelijkheid

Personen moeten verantwoordelijk zijn voor AI-systemen. Hoewel veel AI-systemen autonoom lijken te werken, is het uiteindelijk de verantwoordelijkheid van de ontwikkelaars die de modellen hebben getraind en gevalideerd die ze gebruiken, en de logica gedefinieerd die is gebaseerd op modelvoorspellingen om ervoor te zorgen dat het algehele systeem voldoet aan de verantwoordelijkheidsvereisten. Om aan dit doel te voldoen, moeten ontwerpers en ontwikkelaars van ai-oplossingen werken binnen een kader van governance- en organisatieprincipes die ervoor zorgen dat de oplossing voldoet aan verantwoorde en juridische standaarden die duidelijk zijn gedefinieerd.