Dans une lettre ouverte, onze salarié·e·s d’OpenAI et deux de Google DeepMind mettent en garde contre les dangers de l’intelligence artificielle et proposent aux entreprises technologiques de s’accorder sur quatre principes à respecter.
Ces expert·e·s estiment que les gains financiers liés à l’intelligence artificielle sont susceptibles de faire oublier aux dirigeant·e·s d’entreprise les garde-fous à mettre en place pour se prémunir des risques de cette technologie pour l’humanité. Parmi les dangers cités : le renforcement des inégalités, la manipulation, la désinformation et la perte de contrôle des systèmes d’IA autonomes.
Ces personnes expliquent avoir décidé de lancer l’alerte car les instances gouvernementales n’obligent pas suffisamment les entreprises à rendre des comptes à la société civile. Elles soulignent également être limitées dans l’expression de leurs préoccupations du fait d’accords de confidentialité et prendre le risque de représailles de la part de leurs employeurs.
Elles appellent les entreprises génératrices et utilisatrices d’IA à respecter les principes suivants :
1. L’entreprise ne conclura ni n’appliquera aucun accord interdisant le « dénigrement » ou la critique de l’entreprise pour des problèmes liés aux risques, ni n’exercera de rétorsion pour des critiques liées aux risques en entravant tout avantage économique acquis ;
2. L’entreprise facilitera la mise en place d’un processus anonyme vérifiable permettant aux employés actuels et anciens de faire part de leurs préoccupations en matière de risques au conseil d’administration de l’entreprise, aux autorités de réglementation et à une organisation indépendante appropriée disposant de l’expertise nécessaire ;
3. L’entreprise soutiendra une culture de critique ouverte et autorisera ses employés actuels et anciens à faire part au public, au conseil d’administration de l’entreprise, aux autorités de régulation ou à une organisation indépendante compétente de leurs préoccupations concernant les risques liés à ses technologies, pour autant que les secrets commerciaux et autres intérêts de propriété intellectuelle soient protégés de manière appropriée ;
4. L’entreprise ne prendra pas de mesures de rétorsion à l’encontre des employés actuels et anciens qui partagent publiquement des informations confidentielles liées à des risques après que d’autres processus ont échoué. Nous admettons que tout effort visant à signaler des problèmes liés à des risques doit éviter de divulguer inutilement des informations confidentielles. Par conséquent, dès lors qu’il existe une procédure adéquate permettant de faire part anonymement de préoccupations au conseil d’administration de l’entreprise, aux autorités de réglementation et à une organisation indépendante appropriée disposant de l’expertise nécessaire, nous acceptons que les préoccupations soient initialement soulevées par le biais d’une telle procédure. Toutefois, tant qu’une telle procédure n’existe pas, les employés actuels et anciens doivent conserver leur liberté de faire part de leurs préoccupations au public.