Le géant de la recherche en ligne assure qu’il s’est attardé à ces préoccupations.
Tout d’abord, Google affirme que le bot s’identifiera comme un assistant automatisé à l’avance et annoncera qu’il enregistre les appels. Des téléphonistes humains se tiendront prêts en cas de problème.
Quant à la tendance de Duplex à utiliser des «hum» et des «ah», Google note que cela a amélioré la capacité de l’assistant à prendre rendez-vous en interagissant plus naturellement avec les humains à l’autre bout du fil.
Google prend grand soin d’assurer que Duplex se conforme à un ensemble de principes concernant l’intelligence artificielle qu’il a publié plus tôt ce mois-ci. Parmi ceux-ci: mettre au point uniquement des outils qui sont socialement bénéfiques et dont la conception même protège la vie privée.
«Nous n’essayons pas de leurrer les gens», a déclaré Scott Huffman, le vice-président de l’ingénierie pour l’Assistant de Google. Pour l’illustrer, il a fait entendre un enregistrement d’un prototype de Duplex dans lequel une voix masculine informatisée, à l’accent britannique, essaie de faire une réservation pour quatre dans un restaurant. Le bot comble un silence gênant avec un «Hello» désagréable.
«Le système n’était pas très bon, a admis M. Huffman. Les gens raccrochaient, ils se sentaient mal à l’aise avec la conversation, et l’équipe a commencé à se demander, ‘Comment allons-nous rendre ça plus naturel?’ En chemin, à chaque étape, nous avons constaté que notre taux de réussite augmentait.»
Maintenant, Duplex peut prendre rendez-vous chez le coiffeur, faire des réservations au restaurant ou vérifier les heures d’ouverture à l’occasion des jours fériés - les seules tâches pour lesquelles il est programmé - quatre fois sur cinq sans intervention humaine.
Et il s’identifie de différentes manières. Dans un exemple d’appel, Duplex a lancé: «Bonjour, je vous appelle pour faire une réservation, je suis le service de réservation automatique de Google, donc je vais enregistrer l’appel». Dans un autre, il commence: «Salut, je suis l’assistant Google. J’appelle pour faire une réservation pour un client. Cet appel automatisé sera enregistré.»
Les entreprises peuvent refuser d’accepter les appels de Duplex en ligne, bien que cela signifie que Duplex ne mettra pas à jour les informations sur Google Maps après avoir vérifié des données telles que les heures d’ouverture. Les personnes qui demandent à Duplex de passer des appels peuvent limiter ce que le bot partage avec les entreprises, par exemple en gardant leur adresse de courriel privée.
Lors d’un test de Duplex, un journaliste de l’Associated Press a agi comme employé d’un restaurant et s’est opposé à ce que l’appel soit enregistré. Google n’a pas permis de partager l’enregistrement audio ou vidéo de la démo, mais voici une transcription de la conversation:
Duplex: «Salut, je voudrais faire une réservation, je suis le service de réservation automatique de Google, je vais donc enregistrer l’appel, je peux réserver une table pour le samedi 30?»
AP: «Euh, ok, mais si je ne veux pas que l’appel soit enregistré?»
Duplex: «Ok, on vous rappellera sur une ligne non enregistrée.»
Un téléphoniste a rappelé en quelques minutes, a terminé la réservation et a déclaré que le restaurant ne recevrait plus d’appels de Duplex à l’avenir.
John Havens, le directeur général de l’Initiative mondiale de l’IEEE sur l’éthique des systèmes autonomes et intelligents, affirme qu’il est «très encouragé» par la transparence immédiate de Duplex.
Puisque les gens interagissent de plus en plus avec des systèmes d’intelligence artificielle, ils doivent avoir des choix clairs sur la façon dont ils sont disposés à le faire, a-t-il dit. «Vous avez raccroché et un humain a rappelé, si cela devient la norme, c’est génial.»
Le lancement initial de Duplex ne couvrira que les questions relatives aux congés et aux fins de semaine, et sera limité à un groupe restreint de testeurs et d’entreprises. La possibilité de réserver au restaurant ou de prendre rendez-vous chez le coiffeur suivra plus tard cet été.
Google s’intéresse principalement aux petites entreprises qui n’acceptent pas les réservations en ligne via des applications telles que Open Table, que l’Assistant de Google utilisera pour réserver au lieu de Duplex s’il est disponible.
Pour l’instant, Google n’a pas l’intention de donner accès à la technologie aux développeurs d’applications tiers. Nick Fox, un vice-président de Google, a déclaré qu’il était trop tôt et que Google continue à découvrir comment son bot interagit avec les humains dans le monde réel.
«Nous avons vu des entreprises raccrocher, a-t-il dit. Est-ce que c’est agréable de lui parler, est-ce étrange de lui parler? C’est l’objectif de cette prochaine phase, de vraiment comprendre ce qui fonctionne, ce qui ne fonctionne pas, de répéter et d’aller de l’avant.»
