第45話・準備中

埋め込み

言葉を、地図に置く

言葉を、地図の上の点にする。意味を距離に変える、AIの土台。

この動画は準備中です地図で見る

この動画で話すこと

王様から男を引いて、女を足すと、女王になる。コンピューターの中で、言葉を「地図の上の点」に変える技術、埋め込み。言葉の意味はまわりの言葉で分かる、という考えから、意味の近さを距離として計算できるようになりました。意味で探す検索や、AIが資料を調べて答える仕組みの土台です。あの計算がいつも当たるわけではないこと、偏見が写ること、数字にしても元の文が復元されうることも、あわせて説明します。

出典・参考

  • Mikolov et al., "Efficient Estimation of Word Representations in Vector Space" (2013)
  • Reimers & Gurevych, "Sentence-BERT" (2019)
  • Bolukbasi et al. (2016)
  • Morris et al. (2023)

つながっている動画