C’est de saison ! Telle une Madame Irma de la tech, le cabinet d’études Forrester anticipe ce qui pourrait arriver l’an prochain en matière de cybersécurité et de risques IT.
En 2024, Forrester envisage au moins trois violations de données imputées à des codes générés par de l’intelligence artificielle. « Alors que les développeurs adoptent des assistants de développement IA appelés TuringBots pour générer du code et stimuler la productivité, les organisations les plus consciencieuses analyseront ce code pour y détecter des failles de sécurité. Malheureusement, certaines équipes de développement trop confiantes considéreront que le code généré par l’IA est sécurisé ».
Le cabinet d’études prévoit aussi qu’une application utilisant ChatGPT se verra infliger une amende pour sa gestion d’informations personnelles identifiables (IPI). « Les régulateurs ont été occupés par la genAI pendant la majeure partie de l’année 2023. OpenAI continue de faire l’objet d’un contrôle réglementaire important dans plusieurs régions du monde. En Europe, le Comité européen de protection des données a créé un groupe de travail pour coordonner les mesures d’application contre ChatGPT d’OpenAI. Aux États-Unis, la FTC enquête sur OpenAI ».
Forrester anticipe également que 90% des violations de données incluront un élément humain, avec des personnes impliquées dans l’erreur, l’utilisation abusive, le vol d’identifiants ou l’ingénierie sociale utilisée dans la violation. L’analyste déclare que l’une des solutions les plus efficaces pour atténuer les violations humaines est la formation à la sécurité.
Forrester estime que les organismes de presse vont connaître une résurgence en tant que sources d’information fiables dans un monde de ‘fake news’ alimenté par des images générées par l’IA et de faux influenceurs humains. « La confiance dans la crédibilité des sources sera placée à un niveau record. Il y aura un rebond indispensable de la confiance dans les médias ».
Enfin, le cabinet d’études prévoit que les amendes pour violation de la vie privée des employé·e·s entraîneront une baisse de la confiance dans les entreprises aux États-Unis. « Les entreprises américaines doivent revoir leurs pratiques en matière de protection de la vie privée des employé·e·s. », affirme Forrester.