Die erste Priorität von Insight bestand darin, sicherzustellen, dass die vorhandene Architektur des Einzelhändlers das Callcenter-Projekt unterstützen konnte. Nach Meagan Gentry, National AI Practice Lead bei Insight, gibt es drei wesentliche Ebenen, die die Grundlage für eine KI-Lösung bilden:
In diesem Fall stellte sich heraus, dass Azure OpenAI benötigt wurde, um einen interaktiven Sprachassistenten (IVA) bereitzustellen, der generative KI nutzt. Mit einem solchen IVA würden Anrufer sofort die Antworten erhalten, die sie benötigen. Der langwierige Prozess, der die Auswahl einer Menüoption, eine Warteschleife und das Warten auf die Weiterleitung an das Callcenter oder die richtige Filiale umfasst, könnte so vermieden werden.
Glücklicherweise war Azure bereits Teil der Architektur des Einzelhändlers, was die Nutzung der vorhandenen Daten erheblich vereinfachte. „Es wurden viele verschiedene Datensätze benötigt, um Informationen zu Beständen und Konten zu erhalten“, so Gentry. „Die PostgreSQL- und Azure SQL-Datenbanken [des Einzelhändlers] waren bereits sehr gut mit den Azure OpenAI-Suchkonnektoren integriert, sodass wir problemlos auf diese Daten zugreifen konnten.“
Außerdem verwendete der Einzelhändler bereits Azure Communication Services, um das Anrufvolumen zu bewältigen. Daher konnten Azure AI Services und Funktionen wie Speech-to-Text und Text-to-Speech nahtlos implementiert werden. „Die gute Nachricht ist, dass sich alle diese [Produkte] gegenseitig ergänzen. Das bedeutet, dass eine Azure eine ideale Plattform für Lösungen dieser Art ist. Die Integrationsmethodik [von Azure] ist gut dokumentiert, sodass wir Informationen zur Verfügung haben und der Aufwand begrenzt ist“, bemerkt Gentry.
Anschließend testete Insight verschiedene Möglichkeiten, das Frage-Antwort-Verhalten des Callcenters zu steuern. Das bedeutete, dass über die Behandlung von Fragen wie „Wird diese potenzielle Frage an die richtige Stelle weitergeleitet?“ nachgedacht werden musste. Ist [die Antwort] richtig, nützlich und führt zu einer Lösung?“ Dank Azure OpenAI konnte sichergestellt werden, dass jede Frage zur Beantwortung an die richtige Stelle weitergeleitet wurde. Mit Hilfe eines Retrieval Augmented Generation (RAG)-Frameworks wurden die Antworten darüber hinaus anhand der spezifischen Datensätze des Einzelhändlers weiter angepasst – auf sichere Weise.
„Azure AI reagiert ständig auf sichere Weise auf Marktveränderungen“, erklärt Gentry. „Das schafft das nötige Vertrauen bei unseren Kunden, dass sie mit Azure zahlreiche Optionen für die Nutzung von KI erhalten, die nicht nur ihre Anforderungen erfüllen, sondern sich auch bereits bewährt haben.“