ガードレール

ガードレールは、AIへの入力と、AIからの出力・操作の両方に設けます。たとえば、個人情報や機密の情報が含まれていないかを確かめる、業務と関係のない質問には答えない、差別的・有害な表現を止める、決められた形でない答えを差し戻す、といったものがあります。

方法としては、プロンプトでの指示、別のAIやルールによる入出力の検査、AIが使える道具や権限の制限、重要な操作の前の人による承認などを組み合わせます。一つの方法に頼らず、何重かに備えるのが基本です。どの仕掛けがどの問題を防ぐのかを整理しておくと、見直しもしやすくなります。

ガードレールを厳しくしすぎると、本来答えるべき質問にも答えなくなり、使い勝手が落ちます。業務の内容と、誤りが起きたときの影響の大きさに合わせて強さを決め、運用しながら調整します。止めすぎた例と通しすぎた例を記録し、見直しに生かします。