我が社の「AI君」が、変な動きをしても大丈夫なように…

こんにちは。
広報兼、業務改善担当の酒井です。

最近、弊社では「AI専用パソコン」を導入しました。
ただの備品というよりは、期待の新人くんをデスクに一人配属したような感覚で、みんなでせっせと教育に励んでいます。

でも、新人を育てる時に一番怖いのは、やっぱり「情報の取り扱い」ですよね。

AIは物覚えが良すぎるがゆえに、教え方を間違えると「会社の秘密を外でペラペラ喋ってしまう……」なんてリスクもゼロではありません。

そこで今回は、弊社で取り組んでいる「AI新人くんと安全に付き合うための3つの鉄則」をまとめてみました。
正直なところ、これ、人間の新人教育とも被るところあるとおもうんですよ。

鉄則1：AI君に大事なファイルは「見せない・預けない」

まず一つ目は、AI君には「会社の大事な機密情報が置いているフォルダ」を教えないこと。

AI専用PCを使う時、ついつい便利だからと社外秘の企画書や顧客リストをそのまま読み込ませたくなりますが、これはグッと我慢です。

特に最近のAIは「コンピューターユーズ」機能があって、デスクトップだけでなく、ネットワーク上のフォルダの中のファイルにアクセスできるようになっているんですね。

たとえば、会社のネットワーク上にある大事な契約書を勝手に、ゴミ箱にも入れずに完全削除してしまう…ということも起きたとか起きないとか…
（海外のredditという２ちゃんねるのような掲示板にはそのようなポスト）がたくさん上がってきています。

仮に、AIじゃなかったとしても…
入社したての新人君に会社を左右する重大な資料が入ったフォルダを教えますか…いや、聞くまでもないですよね！

鉄則2：「入力データの学習オフ」の設定はデフォルトで行うべし。

二つ目は「入力したデータをAI学習の参照にする」という機能をオフにしておくこと。

多くのAIツールには、私たちが入力したデータをAIの精度向上のために再利用（学習）する設定があります。

これをオンにしたままだと、私たちのノウハウが世界中の誰かの回答に使われてしまうかもしれません。
まぁ、つまりは情報が流出してしまう可能性があるわけですね。

これについての対策は簡単です。
どのAIにもある 設定画面から「学習に利用しない」や「履歴を残さない」設定に切り替えます。

ただ、これをオフにしたとて…と思う部分もあるんですよね。
サービス側が100%安全と言っても、基本はどうなるかわからない。できれば機密情報は入れないということは徹底した方が良いと思います。

鉄則3：AIが出してきた情報とて「最後は人間が判断する」という姿勢

三つ目は、「出てきた情報を人間が最後にダブルチェックを行った方が良い」ということ。

これはセキュリティというより「情報の安全性」の話ですが、AIは時々、自信満々に嘘をつきます。
専門用語で「ハルシネーション（幻覚）」と呼びますが、要は「知ったかぶり」ですね。

特に、大事な取引様へのメールを自動返信できるAIのシステムを作ったとて…返信する前に、必ず「責任のある人間」がチェックした方が良い！ということですね。

これも、新人教育にすごい似ていると思うんですよ。
自信マンマンに出してきた新人君の仕事を、そのまま取引先に出せますかって話ですよね。

最終的な責任を持つのはあなたですから、AIの回答はあくまで「下書き」や「アイデア出し」として扱うのが正解です。

最後に：「新人教育」も「AI教育」も一緒！ホウレンソウは欠かさずに！

実際にAI君を迎えて思うのは、本当に人間もAIも、仕事を新人に教える環境構築は一緒だな。ということ。
いきなり責任重大な仕事や、経験が必要な仕事を丸投げしても、危ないことだらけ。

ただ、そんな彼らも、正しく育てればこれ以上ないほど心強い相棒になってくれます。

東北タツミでは、こうした「守りのルール」をしっかり固めつつ、攻めの姿勢で業務改善を進めています。

「AIを入れてみたいけど、セキュリティが不安だな……」
という企業様、ぜひ一緒にこの「新しい教育」を模索していきましょう！