ニュース内容
画像に含まれる裸体や暴力、武器や薬物といった不適切な内容をAIが自動的に判別し、健全なオンライン環境を維持するための新たな仕組みが提供された。このツールは開発者が自身のサービスに組み込むことで、投稿された画像が安全かどうかを瞬時に判断し、危険なコンテンツを未然に防ぐことを可能にしている。あらかじめ設定した基準に基づいて判定の厳しさを柔軟に調整できるため、子供向けのアプリから大人向けのコミュニティまで幅広いサービスで活用できると説明する。
判定結果は管理画面でいつでも確認できるほか、画像データはプロジェクトごとに厳重に隔離して保存されるため、高い安全性が確保されているとのことだ。利用状況に応じた料金プランが用意されており、小規模なアプリから始めてユーザーの増加に合わせて無理なく運用を拡大できるため、多くの開発者にとって導入のハードルが低いものとなっている。今後はより多くのプラットフォームで健全な投稿環境が整うことが期待される。