Azure AI Content Safety ist ein neuer KI-Dienst von Microsoft. Er soll sichere Online-Räume schaffen, indem er unangebrachte Inhalte erkennt. Dabei dürfen Kunden und Kundinnen selber einstellen, was unangebracht ist und wie Azure AI Content Safety mit entsprechenden Inhalten umgehen soll. Die Basis für die Anwendung sind moderne KI-Modelle von OpenAI.
Das kann Azure AI Content Safety
Microsofts Azure AI Content Safety ist bereits erhältlich. Der Dienst basiert auf einer modernen KI von OpenAI, die in der Lage ist, bestimmte Inhalte in Bildern und Texten zu erkennen. Konkret geht es dabei um unangebrachte und anstößige Inhalte. Beispielsweise beleidigender, gewalttätiger, sexueller oder verletzender Content.
Innerhalb von Azure AI Content Safety gibt es Einstellungsmöglichkeiten. Darüber stellen Anwender:innen den Schweregrad für bestimmte Inhalte ein. Dadurch ist es möglich, eine Begrenzung für Inhalte zu erstellen und eine Priorisierung für die Überprüfung einer Moderation vorzunehmen. Anwender:innen stellen also selber ein, was durch den Filter geht und was nicht. Das ist vor allem für Online-Räume in Unternehmen sinnvoll.
Die Anzahl falscher positiver Ergebnisse durch Azure AI Content Safety soll gering sein, da die Anwendung Kontexte und Nuancen erfasst.
Die einzelnen Funktionen von Azure AI Content Safety sind derzeit diese:
- Klassifizierung von unsicheren Inhalten: Azure AI Content Safety unterteilt unangebrachte Inhalte in die vier Kategorien „gewalttätig“, „selbstverletzend“, „Hass“ und „sexuell“.
- Schweregrade für Inhalte: Die Skala reicht von 0 bis 7. Je höher der Schweregrad, desto unangebrachter ist der Inhalt logischerweise.
- Semantisches Verständnis von Texten: Durch natürliche Sprachverarbeitungstechniken erkennt die KI sowohl Bedeutung als auch Kontext eines Textes. Sie soll demnach menschliche Intelligenz nachahmen.
- Echtzeit-Erkennung: Durch die sofortige Erkennung der Inhalte rutscht nichts versehentlich durch.
- Mehrsprachig: Azure AI Content Safety versteht die Sprachen Englisch, Deutsch, Japanisch, Spanisch, Französisch, Italienisch, Portugiesisch und Chinesisch.
Es ist zu erwarten, dass der Dienst über die Zeit erweitert und verbessert wird. Wie gut beispielsweise die Kontexterkennung funktioniert, bleibt abzuwarten. Das ist ein Bereich, mit dem KI seit jeher Probleme hat und der sicher noch ausbaufähig ist.
Weitere neue Funktion neben Azure AI Content Safety
Neben Azure AI Content Safety erweitert Microsoft den Umfang von Azure noch um ein Feature für die Modellüberwachung für generative KI-Anwendungen. Das Feature ist Teil von Azure Machine Learning.
Mit der Modellüberwachungen halten Unternehmen Veränderungen an den Daten und beim Verhalten der Kunden und Kundinnen fest. Diese Veränderungen sorgen langfristig dafür, dass KI-Anwendungen mit veralteten Datensätzen agieren, was zwangsläufig zu schlechteren Ergebnissen und hohen Kosten führt.
Die Modellüberwachung für generative KI-Anwendungen löst dieses Problem. Eine kontinuierliche Überwachung der Daten und Leistungsindikatoren stellt sicher, dass das System immer aktuell bleibt.
KI in Azure verwenden mit skill it
Azure AI Content Safety und die Modellüberwachung für generative KI-Anwendungen sind nur zwei der zahlreichen Features, Funktionen und Anwendungen innerhalb von Microsoft Azure. Die Cloud ist riesig und bietet unzählige Möglichkeiten, mit künstlicher Intelligenz zu arbeiten.
Im Seminar Designing and Implementing a Microsoft Azure AI Solution lernst du in zwölf Modulen einige Funktionen von Azure in Verbindung mit KI kennen und legst in praktischen Übungen selber Hand an. Der Kurs setzt Kenntnisse in den Programmiersprachen C# oder Python voraus und richtet sich an Softwareentwickler:innen, die daran interessiert sind, Anwendungen mit Microsoft Azure zu erstellen.
