In den letzten Jahren hat die Forschung und Entwicklung im Bereich der generativen künstlichen Intelligenz (KI) und der großen Sprachmodelle (LLMs) stark zugenommen. Unternehmen folgen dem Trend und setzen KI-Technologien wie Chatbots zunehmend in verschiedenen Geschäftsbereichen ein, sehen sich dabei jedoch mit Herausforderungen konfrontiert. Um den sicheren Einsatz von KI im Unternehmen und in der Cloud zu gewährleisten, ergreifen Unternehmen technische und organisatorische Maßnahmen. Herkömmliche Risikobewertungen und Risikominderungsstrategien sind jedoch nicht immer mit generativer KI kompatibel, weshalb neue Methoden erforscht werden müssen. Anhand eines Anwendungsfalls stellen wir die von uns entwickelte Lösung AIShield Guardian vor, die zur Vertrauensbildung beiträgt und geben einen Ausblick auf zukünftige Anwendungsfelder. Folgende Fragen werden in der Präsentation behandelt:

• Vor welchen Herausforderungen stehen Unternehmen derzeit beim Einsatz von generativer KI?
• Welche Risiken birgt der Einsatz von LLMs in Unternehmen?
• Wie sieht eine Lösung, einschließlich ihrer Architektur, für die vertrauenswürdige Nutzung von LLMs aus?