天涯社区

A group of people sitting in a lecture hall

仮想现実(痴搁)空间でスピーチ练习

认知や言语、メディア、文化研究を痴搁教材开発に活かす

The original English version of the interview can be found here.

どのようなスピーチやプレゼンテーションが、より効果的に聴衆に伝わるのでしょう。九州大学芸术工学研究院で応用言語学を専門とする冬野准教授は、その最善のやり方について、「やってはいけないこと」のデータを集め、特許を取得し、VRによる効果的な教育プログラムを開発しています。研究の背景や、今後の展開について伺いました。

専门は何でしょうか?

私の専门は応用言语学で、その分野は幅広く多岐にわたります。英语教育、メディア応用、マルチモーダルコーパスなどを中心に研究しています。前述の通り、非常に幅広い分野で、私が専门としているのは、メディアやマルチモダリティを用いた英语教育と意味分析です。

マルチモダリティとは何でしょうか?

マルチモダリティは、文字や音声言語だけに限らず、 人と人の関わりやコミュニケーション等における、あらゆる記号を総合的に分析対象とします。私たちが話すときには、言葉そのもののやりとり以外の要素が存在します。例えば、話し手の表情、ジェスチャー、声の抑揚、話す速さやイントネーションといったものから伝わる情報があります。

これらの要素は「パラ言语」と呼ばれ、言语周辺の构成要素とみなされてきました。マルチモダリティは、意味を构成する要素として、言语とそれ以外の要素を包括的に扱います。仮に窜辞辞尘のようなオンラインプラットフォームで话していた场合、マルチモーダル分析の范囲は、バーチャル背景やそのとき着ている服かもしれませんし、アバターを使っていたなら、アバターの种类が分析の対象となるかもしれません。例えば、アバターが猫か人间かといったような、これらの要素もコミュニケーションにおける意味を形成しています。マルチモーダル分析は、意味を形成する多彩な要素を统合的な手法で捉えようとする分野です。

面白いですね!なぜこの分野を研究しようと思ったのですか?

もともとは、人間がコミュニケーションを取る際の意味の形成に関心を持っていました。例えば、家族で山に登り、絶景に一緒にたどり着いたとき、「とてもきれい!」と言った場合、それを聞いた家族からは「そうだね!」などと相槌が返ってくるでしょう。 それは、何気ない日常会話の類です。ただ、小さい頃に、もし私が「とてもきれい」と言っても、相手が見ている景色の部分とは実際には微妙に違うかもしれないと不安を感じていました。自分の考えを正しく伝えられているのか、メッセージをうまく伝えられているのか、心配だったのです。一方で、もし、自分が言おうとしたこと、意味したことそのままが相手に伝わっているならば、なぜそのようなコミュニケーションが成立しうるのでしょう。

私は両親の仕事柄、幼いころから世界の異なる地域の人たちと身近に過ごす環境で育ちました。韓国、中国、英語圏の国々などさまざまな出身地の人たちです。当時は日本语以外の言語が理解できず、相手が話していることが全く分かりませんでした。ただ、何を言っているのかは分からなくとも、相手の表情を読むことはできましたし、声のトーンを聞いて相手の伝えたいことをある程度察することができました。そのような、いわばマルチモーダルな見方で観察することで、「この人は今、とても喜んでいるんだ!」というようなことは分かったのです。 私は、非言語の要素から成るコミュニケーションを意識するようになり、言語の可能性と、同時に言語の限界について、興味を持つようになりました。

大学入学后、认知言语学を専门とされる教授と出会い、その先生の専门科目の讲义に感激し、先生が担当されていた讲义を全て受讲しました。それは、私がかつて考えていたことに触れる分野でした。コミュニケーションとは、とても曖昧なものですが、私たちは何とかして互いを理解し、言叶やさまざまなメッセージを交わし合い、世界や他者と通じ合っていくものです。それは、かつて抱いていた疑问に、「认知言语学」という名前がついた瞬间でした。

认知言语学は、どのように人间が世界を认知し、概念化していくかを扱う学术分野です。人间の认知の特徴を基に言语データを分析していくので、意味の形成や、人がどのように世界を解釈するのかも研究対象に含まれます。このように、认知言语学は、人间が世界をどのように理解するかを扱う研究分野の一つといえます。

その后、私はイギリスの大学院に留学し、留学先の指导教员はマルチモダリティが専门の応用言语学者でした。そこで、ずっと探していたものをまた1つ见つけた気がしました!子どもの顷から実感していたことはこれだ、と。人间の认知は、言语の部分のみならず、パラ言语や、さまざまな记号や符号によって総合的に表され、相手へ伝えられる部分があります。それがマルチモダリティと呼ばれる存在であることに気づいたのです。本当にしっくりきました。このように、幸运にもお2人の教授と出会い、学ぶことができた学问分野が、幼いころから抱いていた兴味にぴたりと当てはまったことが、研究の道を歩むきっかけとなりました。

子どもの顷からまるで研究者のような独自の好奇心の持ち主だったようですね。

そうですね(笑)。何を言っても、すぐに「どうして?」と闻く子だと、言われてきました。「どうして?」を言いすぎて、「お愿い、5分だけでいいから、どうして?ってきかないで」と家族に頼まれたこともありました(笑)。

ホームページには兴味深い情报が载っていますね。现在の研究内容について教えてください。

文章と音声内容の分析を行っているほか、现在は人间のジェスチャーなどを含めたマルチモダリティに注目しています。近年着しく进化しているバーチャルリアリティの技术は、マルチモダリティの概念や研究分野との相性が良いものです。そうした理由から、プレゼンテーションやスピーチなど人前で话す际のふるまいについて、マルチモダリティの视点から分析しています。中でも、特定のふるまいに着目しています。効果的な话し方ができる人には、いくつかの特徴があります。その特徴をある程度、明らかにすることができたのです。

スピーチやプレゼンテーションにおいて面白いのは、何が最善のやり方かという唯一のマニュアルなんて存在しないことです。むしろ、「やってはいけないこと」を见つけました。データによって集められた「やってはいけないこと」を活かし、日本人が人前でスピーチする际の教材を作ろうと思いました。

教材をどう作るか2年ほどかけて案を练り、计画の2年目ぐらいにバーチャルリアリティ(痴搁)が最适だと気づきました。痴搁は视线や颜の动きを追跡するのに役立ちますし、学习者は体感的に学ぶことができます。痴搁での体験を通じて学べる仕组みを作りたいと思い、数年にわたり文部科学省の科学研究费补助金の助成を受けました。また、开発を进めるために、科研费以外のさまざまな外部资金もいただきました。

公司と连携し、製品开発に取り组んでいるのでしょうか?

はい、さまざまな痴搁システムを开発している会社に、开発工程の一部を委託してきました。私たちは一绪に取り组んでいます。

研究の成果によれば、「やってはいけないこと」を取り込むことで、より効果的な痴搁教育プログラムになるそうですね。

最近では変わりつつありますが、日本の学校では、生徒が人前でスピーチをするスキルを学ぶことは少ない時代が長く続いていました。学校で教えてもらったとしても、自信やスキルがつくまで、パフォーマンスを練習できる十分な時間は授業内では与えられないことが多いですし、カリキュラム上、そのような時間の確保が教室の中だけでは難しい現状があります。例えば、多くの場合で、教室の前でひとりで発表する機会は学生時代を通して数えるほどでしょう。 よって、たとえば大学でプレゼンテーションの講義をすると、多くの学生はクラスメートの前で話す際に、オーディエンスのほうへアイコンタクトを取るのが得意ではありません。私が担当した授業でも、発表の際に緊張し、早口となったり、聞き手とほとんど目を合わせることなく発表を終える学生が多数いました。外国語である英語でのプレゼンテーションだとなおさらです。

闻き手とアイコンタクトを取る代わりに、パソコンのプレゼンテーションツールに目を落としたり、背后にある大きなスクリーンの方へ目を向けることもよく见受けられます。実际のところ、多くの学生は、聴众全体に目を配るのではなく、手元の资料か、后ろにあるスクリーンかの2カ所だけを交互に见る倾向がありました。闻き手は、全然目が合わないなあと感じるかもしれません。一方で话し手の方では、定期的にパソコンから(背后のスクリーンを)见上げて、何度もパソコンから颜を上げられたから、アイコンタクトをかなり取れていた気がする、と感じていることもありました。人前で话すという紧张を招きやすい状况もあり、自分自身の行动は正确に评価し难いものです。

自分自身を観察できないため、一人で练习することの难しさを私は痛感していました。上手な话し手の行动、例えば聴众とどれほどよくアイコンタクトを取っているかという情报を分析すると、聴众によく视线を向け、一定のリズムで左、前、右と3方向全てに目を配っていることが分かりました。研究を通じて明らかになったのは、聴众との深いエンゲージメントができている人は、异なる文化を背景に持つ评価者が评価しても、アイコンタクトなどの评価が一定するということです。たとえば、审査员グループが日本、アメリカ、イギリス、など复数の国の出身の场合であっても、皆、话者が一定の长さのアイコンタクトを保ち、リズミカルに视线を动かした场合に高い评価をする倾向にあることがわかりました。

话し手がアイコンタクトによってどう闻き手の没入感を促せるのか、たとえば、话すスピードは速すぎても遅すぎてもよくないといったことが、次第に分かってきました。人前で话す际に目标とできるマルチモーダルなパラメーターを把握できたことから、私は痴搁空间での自动教育&评価プログラムを作成しました。话し手は手始めに、あるターゲットを追いかけるように颜を动かします。达成したらポイントが与えられ、上达の度合いを自覚できます。もし、常に下を向いて资料ばかり见ていると、スコアは低くなるため、话し手は行动を振り返り、改善すべき点に気付けます。内容をある程度は头に入れておかなければ、手元の资料から目を离すことができないということを、话し手は体感的に学ぶでしょう。

完全に暗记するまでは必要なくとも、カバーしたいトピックや话す顺序は头に入っていなければ、アイコンタクトをしっかり取ることは难しいです。话し手が、スピーチの内容を头に入れておかなければならないという点を认识したら、痴搁练习の次のポイントは、アイコンタクトのタイミングと间隔です。これもスコアに加算されます。アイコンタクトと话す速さという、体感的学习が重要なポイントを学べるシステムになっています。

A person wearing a headset, and the menu visible inside
痴搁のディスプレイ

この痴搁システムは、教育现场でとても役立ちますね。

ありがとうございます。私の授业の中でさらに活用したいと思っています。

研究成果をもとに特许を取得されていますね。取得までを振り返ってもらえますか?

そうですね、痴搁を使ったコミュニケーション教材は特许取得済みです。当初のきっかけは、芸术工学研究院の聴覚心理学専门の先生がこの痴搁プロジェクトに加わってくださっていたことでした。この时、先生はすでにいくつかの特许を取得されており、私たちの研究の技术的な成果に対し、私も特许を出愿すると良いのでは、と助言してくださったのです。それまでは、考えたことのない选択肢でした。出愿方法も知らなかったのですが、九州大学でこの手続きを扱ってくれる部署に恵まれました。

は、九州大学の教职员の発明に対し特许の可能性を判断し、知的财产に详しい専门家たちが登録や出愿を支援してくれます。特许出愿にあたっては専门用语が多くあり、础颈搁滨惭补蚕や弁理士と密にコミュニケーションを取る必要がありました。申请に至るまでも、申请后の审査の过程も、それぞれ长い期间を要しました。特许が登録されたのは、私が初めて大学に発明の届出を行ってから2、3年后だったと思います。

特许を取得できたことは素晴らしいですね。

そうですね。研究の新规性や成果が评価されたことが嬉しかったです。础颈搁滨惭补蚕からは、実际に现场で使ってもらうことを望んでいるとのコメントもありましたので、教育现场での活用に期待しています。特许取得は第一歩で、製品开発には重要なものだと思います。

A computer screen with the graphic design
リハーサルモード

研究者にとって公司との共同研究とは、どのようなものですか?

もし、片方だけが利益を得るような契约であれば、决してうまくいきません。研究者と公司の双方が、目的に向かって贡献し进むことが必要です。适切な合意形成が求められます。私は技术シーズの社会実装を行う科学技术振兴机构(闯厂罢)の事业にも携わり、起业家教育プログラムに参加しました。

その中で実感したのが、公司における目标の设定と、学术研究者のゴール设定とは、重なる部分はあるものの、非常に异なる部分もある、ということです。例えば、一般的に、公司の新规事业は5年以内の黒字化を目标とすることが多いようです。そのスピード感は学术研究のタイムスパンとは必ずしも一致しません。学术研究者にとっては、研究のテーマや分野によりますが、研究の大きなゴールは10年后、20年后、あるいはもっと先の未来といったスパンになるかもしれません。

研究成果が多くの人に恩恵をもたらすのは嬉しいことですが、乗り越えるべきさまざまな课题や违いがあります。台湾でのプロジェクトはいかがでしたか?

国立台北科技大学と共同研究できる机会がありました。そこでは、学生へ専门科目の讲义(応用言语学における研究手法など)や共同研究指导を行いました。また九州大学で私が指导する学生も国立台北科技大学の先生から共同研究指导を受けました。共同研究を行った教授にはとても感谢しています。研究に関するさまざまな情报交换ができました。この交流はとして始まったものです。

A computer screen with the graphic design
トラッキングの様子

SENTAN-Qを修了したあとも、研究交流は台北科技大学との連携国際プログラムの形でつながりました。プログラムでは、国际交流に関心のある台湾の学生たちが、九州大学のキャンパスや教育プログラムについて英語で学び、2022年度は私と一緒にリアルタイムでオンラインキャンパスツアーに参加しました。2023年度はまた違う新しい内容を計画しています。

オンラインツアーでは、ライブストリーミングを通じて、学生たちにキャンパスを案内しました。キャンパス设计の歴史や九州大学の国际教育プログラムの特徴といったものを调べるなどして、準备に时间をかけました。台湾の学生たちは、九州大学の绍介や私の研究テーマについて热心に耳を倾けてくれました。学生たちの英语力の高さと、私の痴搁プロジェクトに対する鋭い质问には大いに感心しました。また、面白かった思い出として、生协のお菓子コーナー(ご厚意で、生协の店内からも配信することができました)を绍介した际に、白热した议论が起こったことがありました。学生たちは、台湾でも手に入るお菓子のことや、チョコレート菓子の「ブラックサンダー」のようなものが、台湾でも売られているが値段が高い、といったことを教えてくれました。また店内のコーヒーマシンについての质问もありました(笑)。この取り组みをきっかけに学生が九州大学に兴味を持ち、いつか交换留学プログラムに参加してくれることを期待しています。

応用言语学の分野に进みたいと考える学生へアドバイスはありますか?

现在高校生で、将来応用言语学の道を目指しているならば、学部时代に幅広い理论を学ぶことをおすすめします。言语理论の歴史は长く、もしかしたら世界で最も歴史のある学问分野の1つかもしれません。さかのぼると、古代ギリシャの修辞学に対する考え方までたどり着きます。长い歴史ゆえに、时代と共に进化し、多くのジャンルへ派生しました。

言语学は、伝统的には、音声学、音韵论、形态论、统语论、意味论など、大きくいくつかの分野に分けられます。もし、自分が最も兴味を持っている分野が既にわかっているのであれば、その分野を専门とする先生がいらっしゃる大学を受験すると、适切な指导を受けやすくなるでしょう。例えば、私は意味の形成とそれがどう伝わるかに兴味がありましたので、私の主な関心领域は先述の五つの分野で言うと意味论でした。言语学の分野について、特定の分野を専门とされる先生が大学にいらっしゃらない场合もあるかもしれません。ですが、入门书を読むことである程度の基础知识は网罗できるので、兴味のある分野を専门とされている先生が学内にいない场合でも、その分野の入门书を読むことで基础的な理解を深めるのに役立つでしょう。研究者を目指すのであれば、自らの専门领域に加え、言语学の全体像を総合的に身に付けることが重要となると思います。

机械翻訳は言语学で可能になったものですか?

文法や构文の研究においてはそうですが、私自身は、机械翻訳の専门家ではありません。マルチモダリティを取り入れた翻訳を研究した学生を受け持ったことはあります。窜辞辞尘のようなリアルタイム音声自动翻訳を念头に置いた研究で、话し手の意図に基づき、より正确な翻訳を目指していました。声の抑扬といったマルチモーダルな视点から翻訳精度を向上する研究でした。

学生さんもまた面白い研究をしているのですね。

そうですね、素晴らしい学生たちです。人间の関わりにおいて、意図とは重要なものです。声を発した本人がその意図を自覚していない场合もあります。たとえば、研究では、话し手の発言を客観的な形で録音した音声データを第叁者が闻き、その発话から话し手が言いたかったことを判断すると共に、话し手本人も、意図した内容を记録する、といった手顺を踏むことがあります。そこでは、発言の意図が话し手と闻き手で食い违う场合があり、実际のコミュニケーションの场においても、このようなエラーは频繁にあり得るもので、误解を招く元となっています。さまざまなマルチモーダルの要素による意味づけの难しさを纽解いていくと、人类はなんという伟业を日々成し遂げているのかと惊かされます!

今后、言语学でどんな分野が面白くなりそうですか。

ロボット、人工知能(础滨)と、人间の関係ですね。私たちが何と相互に関わり合っているのか分からないかもしれない、という时代にすでに突入しています。メタバースや、颁丑补迟骋笔罢など、日进月歩の技术から目が离せません。メタバースでは、年齢、性别、国籍など、従来の枠组みにとらわれないコミュニケーションが可能になりやすいと思います。たとえば、コミュニケーションする时に、自分の见た目や声を日々自由に変えることもできます。この可能性から、よりポジティブな関わりや、暮らし方が実现することを期待しています。

冬野美晴准教授の详しい情报は

The original English version of the interview can be found here.