生成AIセーフガード「KARAKURI Guardrails」β版提供開始

生成AIの安全基盤生成AIガードレール
日本独自の特性に対応する「KARAKURI Guardrails」β版開始

カスタマーサポートDXを推進するカラクリ株式会社（東京都中央区、代表取締役CEO：小田志門、以下カラクリ）は、生成AIのガードレールシステム「KARAKURI Guardrails」のβ版提供を開始したことをお知らせいたします。本製品は日本語特有の表現や文化的背景に対応した安全なAI運用を実現します。

「KARAKURI Guardrails」開発背景

生成AIの商用利用が拡大する中、OpenAI社が導入したChatGPTの初期ガードレールが業界基準となり、GoogleやAWSといった大手企業も追随して強化を進めています。しかし、これらのシステムは主に英語圏を想定しており、日本語特有の曖昧さや敬語、文脈依存性に十分対応できていない課題があります。この状況に対し、カラクリは「KARAKURI LM」で培った技術力を活かし、日本語に最適化されたAIセーフガードを開発しました。

「KARAKURI Guardrails」の特長

『KARAKURI Guardrails』は、既存のグローバル基準を上回る日本語対応力を備え、安全なAI運用をサポートします。主な機能は以下の通りです。

① ハルシネーションリスクの検知

生成内容を信頼性の高い情報源と照合し、不確実な情報を排除することで、誤った情報の拡散を防ぎます。

② 文脈逸脱の検知

設定された主題や目的から外れる応答を識別し、効率的かつ適切なコミュニケーションを実現します。

③ 攻撃的行為の検知

不適切な発言や悪意ある行為を即座に特定し、システムとユーザーの安全を守ります。

④ 個人情報の検出

氏名や住所などの個人情報を検知し、マスキングまたは削除を通じてプライバシー保護を強化します。

⑤ 禁止ワード、禁止トピックの検出

企業独自のポリシーや法的基準に基づき、不適切な言葉やトピックを監視します。

『AWS re:Invent 2024』での評価

2024年12月にラスベガスで開催されたAWS主催のイベントにおいて、ソニー株式会社より『KARAKURI Guardrails』が日本の優れたAI技術として紹介されました。

動画リンク：AWS re:Invent 2024 – Scaling generative AI workloads with efficient model choice (AIM397-NEW)

会社概要

カラクリ株式会社は、「Friendly Technology」というビジョンを掲げ、日本独自の技術を活かしたAIソリューションを提供するスタートアップです。

• 住所：〒104-0045 東京都中央区築地2-7-3 Camel 築地 II 5F
• 設立：2016年10月3日
• 代表者：代表取締役CEO 小田 志門
• 事業内容：AIを活用したカスタマーサポート支援ソリューションの開発・提供
• URL：https://about.karakuri.ai/

日本のAI活用をさらに前進させるため、カラクリは引き続き安全性の高い技術を追求してまいります。

■プレスリリース配信元-カラクリ株式会社
https://companydata.tsujigawa.com/company/2011001113085/