<<< LoveJapan >>>
アプリを作るきっかけとなったモチベーション
・世界に誇れる日本の食文化を気軽に楽しめる外国人を増やしたい
・食文化を通じて、日本の良さをもっと知ってほしい
・日本を好きになってもらい、リピーターになってもらいたい
外国人が日本でお店を探すときに遭遇する悩み
1) 日本語が読めない
2) 食べたい物の名前を思い出せない
3) そもそも日本が初めてなので、どんな食べ物があるのか知らない
でも大丈夫です、LoveJapanがあればね!
1) 写真から食べ物を特定してくれる
2) 食べたい物を表現する文から食べ物を特定してくれる
3) 日本が初めての人には食べ物の種類をリスト表示してくれる
ケース別利用イメージ
[CASE1] 日本語が読めない、保存していた写真や街で見かけた食べ物の写真に撮ってお店を検索したい外国人
(1) スマフォに保存しておいた写真をアプリにアップロードします (食べ物のジャンルが決まります)
(2)「Tell me your place」というメッセージが返ってくるので、LINEの位置情報送信機能を使って、現在地もしくは検索したい場所の情報(GPS情報)を送信します
(3) 検索で見つかったお店が表示されるので、URLをクリックして詳細な情報を確認し、行きたいお店を決定します
[CASE2] 以前から日本食に興味があり、どんな食べ物があるかは知っているが、その食べ物の種別が思い出しない外国人
(1) 思い浮かんだキーワード(YAKINIKU)や日本食を表す表現で質問してみます
(2) 『CASE1』の(2)(3)と同様の手順
[CASE3] 日本が初めてなのでどんな食べ物があるのかを知らない外国人
(1) 「日本に来るのが初めてです」「こんにちは」「Hi Einstein」等を入れると、検索できる食べ物のジャンルが表示されるので、ジャンル(Sushi, Tempura, Yakiniku, Ramen)を選択します
(2) 『CASE1』の(2)(3)と同様の手順
※入力文字をジャンル特定だけではなく、センチメントの判定にも利用しています。negativeと判定された場合、応答文字を変化させています。
negative以外 --> 「どれがお好みですか?」
negativeの場合 --> 「私に任せてください、どれがお好みですか?」
アプリの機能と制限
[機能]
・利用者が入力した発話内容から、食べ物のジャンルを特定する機能 --> Einstein Intent
・利用者が送信した写真から、食べ物のジャンルを特定する機能 --> Einstein Vision
・利用者が入力した内容から、センチメントを特定する機能 --> Einstein Sentiment
・利用者が文字を入力する機能 --> LINE UI
・利用者が写真を取得/送信する機能 --> LINE UI
・位置情報を送信する機能 --> LINE UI
・レストラン検索機能 --> ぐるなびレストランAPI
[制限]
・特定できるジャンルは、寿司、天ぷら、焼き肉、ラーメンの4つに限定されています
・利用者が入力した発話内容によっては、正しくジャンルを特定できない可能性があります
(Intent学習量が少ないため)
・レストラン検索には、特定されたジャンルと位置情報(緯度経度)のみを使用しています
アプリ開発環境
| サーバ環境 |
名称 |
| サーバ・プラットフォーム |
Heroku |
| 画像認識API |
Einstein Image Classifier |
| 意図判別API |
Einstein Intent |
| センチメントAPI |
Einstein Sentiment |
| レストランAPI |
ぐるなびレストランAPI |
| UI |
LINE |
| SDK |
line-bot-sdk-node.js |
データ
| 種別 |
提供者 |
利用API |
| 食べ物画像 |
pythonスクリプトでクロールして取得 |
Einstein Image Classififer |
| 食べ物判定用データ |
独自に作成 |
Einstein Intent |
アプリ作成を通じて学んだこと
・Einstein APIは仕様が全て公開されていて、かつ、ドキュメントが整備されているので、特別なガイドがなくても一般的なWeb Applicationの知識が簡単に利用可能である
・HerokuがGitとシームレスに統合されているのでGITコマンドだけでデプロイとソースコード管理ができるのは便利
・Einstein Sentimentが非常に気軽に使えるので、効果的な利用方法を考えてみたい
・Einstein Object Detectionを活用する上で便利なツールが提供されていることがわかったので看板に写っている複数の食べ物から、どんなジャンルのお店なのかを判定させる等に利用できそうだ
このアプリ発展的応用案
1) 街の風景を写真に取ると、看板に描かれている写真からそのお店で提供してくれる日本食を教えてくれる
(Object Detection)
2) 本格的なチャットでユーザの好みに応じたレコメンドをしてくれる
(intents,sentimentの高度化)
3) 地図アプリと連携して、見つけたお店までの道順を教えてくれる
(Google Map等)
4) Einstein以外のAI系APIと連携してさらに高度な人工知能系アプリケーションに発展させられる
Log in or sign up for Devpost to join the conversation.