皆さん、初めまして。
ルグランインターンの小南 佑介です。現在大学３年生で、今年の６月からインターンとして働いております。今回は初めてのブログということで、私の大学の専攻でもあるAI（人工知能）について、uxsudioの記事を元に執筆せて頂きます。
近年、AI製品がかなり普及してきています。Appleの「Siri」、iRobotの「ルンバ」、Softbankの「Pepper」など個人レベルでも扱えるものもあります。
AIが普及するにつれ、AIの事故も増えてきています。2018年3月23日に「テスラ」のモデルXが、自動運転中に高速道の中央分離帯コンクリートに激突し、男性ドライバーが死亡した事故がありました。このような事故を防ぐにあたり、AI設計には７つの原則によって行うべきだと”7 Principles of Designing Good AI Products”の記事は言及しています。
１．AIコンテンツを視覚的に区別する
AIコンテンツと通常のコンテンツが偏在する場合にAIコンテンツを視覚的に区別することが必要になります。そうすることにより、ユーザーがその情報源を知ることができ、その情報が信頼しうるものかどうか判断が可能になります。
２．機械の考え方を説明する
人工知能はまるで魔法のように見え、説明が難しい場合がほとんどです。しかし機械がどのようなデータを用いて、どのような動作が行われるかユーザーに説明しなければ、ユーザは出力された結果を理解することが出来ません。
３．期待される動作、結果を説明する
上記のテスラ事故の原因としてはドライバーが自動運転技術を過信しすぎてしまっていたことが挙げられます。テスラの自動運転技術は複雑な状況での運転においてはまだ信頼度があまり高くはなく、人による判断も必要な場面も出てきます。AI技術は年々進歩していっていますが、その反面システムを過信してしまうということがあります。このテスラ事故からわかるように、期待される動作をしっかり伝える必要があります。
参照：https://uxstudioteam.com/ux-blog/ai-ux/
４．例外の処理を行う
AI製品においても例外は少なからず出来てしまいます。パスポートチェックのためのAI製品では目が細い人を認識できずに受理できなかったケースがあります。このような例外が起こるケースを事前に判断し対応しておく必要があります。
５．適切なトレーニングデータを読み込ませる
AI製品には必ず事前に大量のテストデータを読み込ませておく必要があります。AIはこのデータから学習を行い、実際に利用された際に、期待される動作を行います。そのためこのテストデータが重要になってきます。そもそものテストデータ自体が間違っていたら、AI製品は間違った答えを真と捉えて、動作を行ってしまいます。
６．適度なユーザーテストを実施する
AI製品のユーザーテストは通常のアプリケーションのテストよりはるかに困難です。その理由としては、主にパーソナライズされたコンテンツが提供されるので、テストケースが複雑になるためです。そのためAI製品のユーザーテストでは利用者の状況に応じた、テスト環境でテストケースを作る必要があります。
７．フィードバックを与える機会を設ける
AI製品は提供されるデータの量によって、期待される答えの精度も上がってきます。そのためAI製品では、推奨または予測を行った時点で、ユーザーにフィードバックをもらう機会を設けます。そうすることによって新しいトレーニングデータを追加することが出来ます。
上記に挙げた７つの原則はAIにおけるUXを上げるために存在しています。新しい技術であるからこそ設計者も予期せぬ結果になる可能性があります。そのためこの原則を中心に一度立ち止まって設計する必要があるかもしれません。
”７Principles of Designing Good AI Products”