L’IA au service de la sécurité de Google Search

Consultant SEO Marseille

L’IA au service de la sécurité de Google Search

google ai safe for search
Play

Ceci est une traduction de l’article de google. Pour vous la faire courte, le contenu ci-dessous traite de l’utilisation de technologies d’IA comme BERT pour aider à améliorer la sécurité des résultats de recherche de Google. Plus précisément, l’utilisation de BERT a conduit à une réduction de 30 % des résultats choquants inattendus. En outre, le MUM peut être utilisé pour améliorer la qualité des protections contre le spam et s’étendre à de nouvelles langues. Donc quand je vous dis qu’aujourd’hui on a des choses mais qu’il faut s’attendre a un changement radical très bientôt…

Chaque jour, les internautes consultent Google à la recherche de moyens pour assurer leur sécurité et celle de leur famille. Qu’il s’agisse de mettre en évidence des ressources à la suite d’une catastrophe naturelle ou de fournir des informations sanitaires urgentes, nous travaillons constamment sur de nouvelles fonctionnalités et améliorations pour vous aider à trouver rapidement ce dont vous avez besoin. Et les progrès de l’IA peuvent alimenter de nouvelles technologies, comme la prévision des inondations, pour aider les gens à rester hors de danger.

Voici un aperçu de la manière dont nos systèmes d’IA nous aident à connecter les gens à des informations essentielles tout en évitant les contenus potentiellement choquants ou dangereux – afin que vous puissiez rester en sécurité, en ligne et hors ligne.

Trouver des informations fiables et exploitables au moment où vous en avez le plus besoin

Nous savons que les gens se tournent vers la recherche dans les moments les plus importants. Aujourd’hui, si vous recherchez sur Google des informations sur le suicide, les agressions sexuelles, la toxicomanie et la violence domestique, vous verrez apparaître les coordonnées des lignes d’assistance nationales à côté des résultats les plus pertinents et les plus utiles.

Mais les personnes en situation de crise personnelle effectuent leurs recherches de toutes sortes de manières, et il n’est pas toujours évident pour nous qu’elles sont dans le besoin. Et si nous ne pouvons pas le reconnaître avec précision, nous ne pouvons pas coder nos systèmes pour afficher les résultats de recherche les plus utiles. C’est pourquoi l’utilisation de l’apprentissage automatique pour comprendre le langage est si importante.

Comment l’IA améliore-t-elle les résultats de recherche de Google ?

Désormais, grâce à notre dernier modèle d’IA, MUM, nous pouvons détecter automatiquement et avec plus de précision un plus large éventail de recherches de crises personnelles. MUM peut mieux comprendre l’intention derrière les questions des gens pour détecter quand une personne est dans le besoin, ce qui nous aide à montrer de manière plus fiable des informations fiables et exploitables au bon moment. Nous commencerons à utiliser MUM pour apporter ces améliorations dans les semaines à venir.

Se tenir à l’écart des contenus choquants inattendus

Pour assurer votre sécurité sur les moteurs de recherche, nous devons également vous aider à éviter les résultats choquants inattendus. Cela peut s’avérer difficile, car les créateurs de contenu utilisent parfois des termes anodins pour désigner du contenu explicite ou suggestif. Et le contenu le plus courant qui correspond à votre recherche peut ne pas être celui que vous aviez l’intention de trouver. Dans ce cas, même si les internautes ne cherchent pas directement du contenu explicite, celui-ci peut apparaître dans leurs résultats.

Le mode SafeSearch

Nous nous attaquons à ce problème avec le mode SafeSearch, qui offre aux utilisateurs la possibilité de filtrer les résultats explicites. Ce paramètre est activé par défaut pour les comptes Google des personnes de moins de 18 ans. Et même lorsque les utilisateurs choisissent de désactiver le mode SafeSearch, nos systèmes réduisent toujours les résultats racoleurs indésirables pour les recherches qui ne les recherchent pas. En fait, chaque jour, nos algorithmes de sécurité améliorent des centaines de millions de recherches dans le monde entier, en mode Web, image et vidéo.

Comprendre ce que vous cherchez avec BERT

Mais des améliorations sont encore possibles, et nous utilisons des technologies d’IA avancées comme BERT pour mieux comprendre ce que vous recherchez. BERT nous a permis de mieux comprendre si les recherches portent réellement sur du contenu explicite, ce qui nous aide à réduire considérablement les risques de résultats de recherche surprenants.

Il s’agit d’un défi complexe auquel nous nous attaquons depuis un certain temps, mais rien qu’au cours de l’année dernière, cette amélioration de BERT a permis de réduire de 30 % les résultats choquants inattendus. Elle s’est avérée particulièrement efficace pour réduire le contenu explicite des recherches liées à l’origine ethnique, à l’orientation sexuelle et au sexe, qui peuvent avoir un impact disproportionné sur les femmes, en particulier les femmes de couleur.

Étendre nos protections dans le monde entier

Le MUM peut transférer ses connaissances dans les 75 langues dans lesquelles il a été formé, ce qui peut nous aider à étendre les protections de sécurité dans le monde entier de manière beaucoup plus efficace. Lorsque nous formons un modèle MUM à effectuer une tâche – comme la classification de la nature d’une requête – il apprend à le faire dans toutes les langues qu’il connaît.

Par exemple, nous utilisons l’IA pour réduire les pages de spam inutiles et parfois dangereuses dans vos résultats de recherche. Dans les mois à venir, nous utiliserons le MUM pour améliorer la qualité de nos protections contre le spam et pour nous étendre aux langues pour lesquelles nous disposons de très peu de données d’entraînement. Nous serons également en mesure de mieux détecter les requêtes de crise personnelle dans le monde entier, en travaillant avec des partenaires locaux de confiance pour afficher des informations exploitables dans plusieurs pays supplémentaires.

Comme toute amélioration apportée à la recherche, ces changements ont fait et feront l’objet d’une évaluation rigoureuse, avec la participation de nos évaluateurs de recherche du monde entier, afin de nous assurer que nous fournissons des résultats plus pertinents et plus utiles. Quelle que soit votre recherche, nous nous engageons à vous aider à la trouver en toute sécurité.