ChatGPT et cyber-risques

Nous constatons désormais des avancées dans les modèles de langage tels que ChatGPT, en raison
de la disponibilité de la puissance de calcul nécessaire pour les faire fonctionner. Les gens sont naturellement fascinés par la manière dont ils peuvent tirer parti de l’apprentissage automatique (machine learning) et de l’intelligence artificielle (IA) pour leur vie personnelle et leur entreprise. Cependant, avec l’évolution des nouvelles technologies, des risques émergent.

Dans cet article, Zair Kamal, Directeur, Développement de la clientèle et Cyber-expert chez HSB Canada, fournit des informations sur la cyber-sécurité.

Qu’est-ce que ChatGPT?

ChatGPT est un modèle de génération de langage de pointe développé par OpenAI, capable de comprendre et de générer du texte de type humain basé sur quelques mots saisis.

ChatGPT peut donner une réponse complète et articulée à toute question qui y est saisie. Vous cherchez la meilleure recette de gâteau au chocolat au monde? Saisissez-le dans ChatGPT et vous n’aurez jamais besoin de rechercher sur Google.

Mais comment un modèle d’IA de type ChatGPT pourrait-il causer des dommages?

Les modèles de langage tels que ChatGPT peuvent être utilisés des manières suivantes par des acteurs malveillants pour :

1.      Compromettre des données sensibles

Les modèles de langage traitent et stockent de grandes quantités de données à partir des requêtes saisies. Si les employés téléchargent des données sensibles et des renseignements confidentiels dans
le modèle, les données pourraient être piratées, divulguées ou exposées accidentellement.

2.      Réécrire le code pour développer des logiciels malveillants

Les modèles de langage peuvent être capables de modifier délibérément le code du logiciel. S’il est appliqué à un programme antivirus, son code pourrait être modifié afin qu’il ne puisse plus reconnaître un virus en particulier.

3.      Préparer des courriels d’hameçonnage

Les modèles de langage peuvent être en mesure de prendre en charge la tâche de préparation d’un courriel d’hameçonnage bien rédigé.

4.      Une collecte d’informations plus efficace

Normalement, un cyber-criminel effectue des recherches manuelles sur le site Web ou les réseaux sociaux d’une entreprise cible. Désormais, les criminels pourraient utiliser des modèles de langage pour procéder à ces recherches, ce qui les aiderait à accéder plus rapidement aux renseignements.

Comment les entreprises peuvent-elles se protéger contre des attaques de plus en plus sophistiquées?

Cela ne nécessite pas une seule mesure de sécurité, mais une combinaison de différentes lignes de défense. Il est important de créer plusieurs barrières pour empêcher les attaquants de pénétrer dans
le système ou de causer des dommages.

En voici des exemples :

Classement des données sensibles

• Identifiez et classez vos données en différents niveaux de sensibilité.
• Définissez clairement quel type de données peuvent être partagées avec ChatGPT et celles qui doivent rester confidentielles.

Formation et sensibilisation des utilisateurs

• Éduquez votre équipe sur l’importance de la sécurité des données lors de l’utilisation de ChatGPT
  et sur le fait de ne pas partager de renseignements sensibles.
• Apprenez-leur à reconnaître et à signaler les activités suspectes.

Contrôle de l’accès à ChatGPT

• Veillez à ce que seul le personnel autorisé puisse accéder et utiliser ChatGPT ou les systèmes associés.

Réponse aux incidents

• Élaborez un plan de réponse aux incidents bien défini en cas de violation ou d’utilisation abusive
  de données.
• Cela devrait inclure des stratégies de communication, des procédures d’enquête et des mesures d’atténuation.

Rejoignez Zair Kamal sur LinkedIn

Abonnez-vous à notre infolettre

Nous voulons vous fournir les informations dont vous avez besoin en matière d’assurance, d’ingénierie et de technologie pour vous permettre de conserver une longueur d’avance.