資料
ダウンロード
Technology > ロボットが「気持ち」を扱うための部品 ― 感情とその理由を出す「感情エンジン」(試作)

ロボットが「気持ち」を扱うための部品 ― 感情とその理由を出す「感情エンジン」(試作)

人と暮らすロボットは、指示された動作をこなすだけでは足りません。相手が不安なのか、急いでいるのか、喜んでいるのか。それによって、落ち着いて確認する、一緒に喜ぶ、困りごとが続く間は気にかけ続ける、といった振る舞いの違いが求められます。

感情エンジンは、そのための部品です。文章を1つ受け取るたびに、「話し手がいま何を感じていそうか」と「話を聞いたロボット自身が何を感じるか」を更新し、なぜその感情なのかを後から説明できる形で出します。本記事では、試作版のしくみとデモを紹介します。

紹介映像

※ 台所の煙:煙に気づいて不安になり、原因が分かって安心するまで(約1分)。左が話し手の気持ち、右がロボット自身の気持ち。保存した LLM の判定から、エンジンを動かし直した映像です。

入力から、感情とその理由を出す

感情エンジンは、文章(会話や本の一節)を1文ずつ受け取り、そのたびに内部の状態を更新します。出すのは、8つの基本感情の強さ、気分、欲求、まだ解決していない「気がかり」、そしてその感情に至った理由です。

入力(文章)→感情の状態(8つの基本感情の強さ、気分・欲求・気がかり)→説明(なぜその感情か、どの入力が原因か)。誰の感情を出すかは、話し手の感情とロボット自身の感情の2つから選べる
誰の感情を出すかを2つから選べます。話し手の感情は「人の気持ちの推定」に、ロボット自身の感情は「ロボットの内部状態」に使います。音声・動画の入力は設計まで済んでおり、今後の対応です。

ロボット自身の感情は、人の安全、信頼、任された仕事といったロボットの関心事に照らして決まります。同じ話を聞いても、話し手とロボットとで感じることが違ってよい、という作りです。

出力は、ひと目で状態が分かる画面に

実際の出力を、そのまま画面にしたものです。台所の煙の場面で、話し手が「怖い、火事になったらどうしよう。」と言ったところです。

話し手のことば「怖い、火事になったらどうしよう。」。話し手の気持ちは恐怖、ロボットの気持ちも恐怖。ロボットの気がかりに「台所での火災または事故の可能性」が立っている
左が話し手、右がロボット。中央はロボットの気がかり(まだ解決していないこと)です。感情の呼び名は強さに応じて変わります(不安 → 恐れ → 恐怖)。下の帯には、どの感情がどの入力でどう動いたかが由来つきで出ます。

原因が「焦げたパンくずが熱くなっていただけ」と分かると、気がかりは解決済みになり、ロボットの気持ちは恐れから信頼・敬愛へ移ります。

話し手のことば「焦げたパンくずが熱くなっていただけみたい。」。気がかり「台所での火災または事故の可能性」が解決済みになり、話し手は喜び、ロボットは敬愛
気がかりが解決したことで、ロボットの予期が下がり、喜びが上がりました。この変化の理由も、画面下の帯にそのまま出ています。

しくみ:判定は LLM、状態と説明は記録から決まった手順で

感情エンジンの中で LLM が受け持つのは「判定」だけです。判定の結果は形式を厳しく検査したうえで、入力と一緒に出来事の記録へ追記します。今の状態は、この記録を順に適用して計算します。

入力(文章)→判定(LLM。形式を厳格に検査)→出来事の記録(入力と判定を追記。これが正本)→今の状態(記録を順に適用して導出)→説明(状態と由来から組み立て)。利点は、説明できる・再現できる・差し替えられる
記録が正本で、状態と説明はそこから導きます。

この作りには3つの利点があります。

  • 説明できる ― 説明文を LLM に作文させません。説明に出る数値と由来は、計算に使ったものと一致します。
  • 再現できる ― 同じ記録からは、必ず同じ状態になります。後から検証や再生ができます。
  • 差し替えられる ― 判定の部分は、LLM や入力の種類(音声・動画)を替えられます。

「なぜロボットがその対応をしたのか」を後から確かめられることは、人のそばで動くロボットにとって大事な性質だと考えています。

感情は6つの層で表す

感情の表し方は、心理学の知見(プルチックの感情の輪、評価理論、Mood Meter など)を土台にしています。

欲求(安全、つながり、承認、自律、有能感、探索)、評価(望みに合うか、予想外か、対処できるか、誰のせいか)、コアアフェクト(快・不快、エネルギー)、1次感情(基本の8感情)、2次感情(隣り合う2つの感情の組)、複合感情(嫉妬、罪悪感、孤独感、自尊心など13種)
感情の背景にある「満たしたいこと」(欲求)から、状況の見方(評価)、おおまかな方向(コアアフェクト)、基本の8感情とその組み合わせまでを層に分けています。複合感情は候補として出します。

「気がかり」があると感情が続き、解決すると安心に変わる

人の気持ちは、1つの言葉で急に切り替わるものではありません。心配ごとがある間は不安が続き、それが片づくと安心します。感情エンジンでは、この持続を気がかりで表しています。

台所の煙のシナリオで、ロボットの恐れ・信頼・喜び・予期が入力ごとにどう動いたかのグラフ。入力1で気がかりが立ち恐れと予期が高まり、入力7で解決すると恐れが下がり信頼と喜びが上がる
台所の煙のシナリオでの、ロボットの感情の流れ(実際の出力)。入力1で「台所での火災または事故の可能性」という気がかりが立ち、恐れと予期が高いまま続きます。入力7で原因が分かると、恐れが下がり、信頼と喜びが上がります。

同じ入力でも、話し手とロボットは別の感情を持つ

次の映像は、ロボットの家事の遅れに話し手が強く怒ったあと、自分の言い方を反省して謝る場面です。

※ 強く言ったあとの謝罪(約1分)。保存した LLM の判定から、エンジンを動かし直した映像です。

「でも、充電が必要だと昨日聞いていたね。」という一文で、話し手のいちばん強い感情は怒り、ロボットは信頼でした。話し手の感情は言葉の調子や内容から推定し、ロボットの感情は自分の関心事(信頼、任された仕事)に照らして決まるためです。

入力「でも、充電が必要だと昨日聞いていたね。」に対し、話し手のいちばん強い感情は怒り、ロボットは信頼
話し手の感情をロボット側へどう伝えるか(出来事として評価する、共感として足す)も選べるようにしています。

いまの到達点と課題

試作として、文章から感情・気がかり・説明が出るところまで動いています。話し手とロボット自身の2つの視点を持ち、同じ記録から同じ状態を再現できます。

研究用に公開されている第三者の感情データで、話し手の感情の推定も測りました。短い投稿文では人どうしの一致に近い水準でしたが、対話では人より劣り、感情を強めに出しすぎる傾向が見えました。ロボット自身の感情は、用意した場面でおおむね意図どおりに動きましたが、届いていない項目もあります。また、関係のない話題にも状態が反応しすぎることがあり、改善を進めています。

できていること:文章から感情・気がかり・説明が出る、話し手とロボット自身の2つの視点、同じ記録から同じ状態を再現できる、第三者のデータで推定の水準を測定済み、デモ動画8本と操作できるデモ画面。これから取り組むこと:感情を出しすぎる傾向の調整、関係のない話題に状態が反応しすぎる点の改善、音声・動画の入力、行動選択との接続、実際のお客様のデータでの評価
音声・動画の入力と、行動選択との接続は、設計まで済んでいる段階です。

これから

精度を上げ(出しすぎ・反応しすぎの調整と実データでの評価)、入力を広げ(声の調子、表情や様子)、最後に感情に応じた行動の選択とロボットへの組み込みへ進める計画です。時期は、ご要望と評価の結果に合わせて決めます。

お客様のユースケースの会話・音声データでの評価(PoC)や、ロボットが大切にする関心事・感情の定義のカスタマイズも、ご一緒に進められます。

まとめ

  • 感情とその理由を出す部品 ― 文を読むたびに、感情・気分・欲求・気がかりを更新し、由来つきで説明する。
  • 2つの視点 ― 話し手の気持ちの推定と、ロボット自身の関心事に照らした気持ちを、並べて扱える。
  • 説明は作文しない ― 判定は LLM、状態と説明は記録から決まった手順で導く。同じ記録からは同じ状態になる。
  • 気がかりで持続を表す ― 心配ごとがある間は感情が続き、解決すると安心や信頼に変わる。
  • 試作版 ― 感情の出しすぎや反応しすぎなどの課題を把握し、音声・動画と行動選択への接続を進めていく。

デモ画面では、シナリオの再生に加え、その場で入れた文を判定することもできます。デモやご相談を承っています。

この技術や導入について、お気軽にご相談ください。

お問い合わせ・ご相談はこちら
一覧に戻る

Contact

自社のロボット、現場、データにどう使えるか。まずは相談から

既存ロボットへの知性付与、ローカルAI導入、移動AI、ヒューマノイド制御、行動ログの記録まで。製品選定とPoCの組み立てを、Forcesteed Robotics が支援します。