マッチングのAI審査の限界｜人の確認と通報が必要な理由

結論：AIは「形が決まっているもの」を大量に見つけるのが得意で、「文脈や意図に依存するもの」は苦手です。だから審査はAIだけで完結せず、人の確認と、利用者からの通報を組み合わせて成り立っています。自動判定を通った投稿だから安全、とは言えません。

写真や動画の審査、メッセージ内の連絡先の検出。こうした処理の多くは自動判定が担っています。処理量を考えれば人手だけでは追いつかず、AIの導入自体は合理的です。問題は、AIが何を見つけられて何を見つけられないかを知らないまま、判定結果を安全の保証として受け取ってしまうことにあります。

なお、LOVETOKは会員登録を受け付けています。

この記事でわかること

• AIが得意な判定と苦手な判定の分かれ目
• 自動判定をすり抜けやすい問題の型
• 人の確認と通報が担っている役割
• 誤解しやすい考え方と、その言い換え
• 自動判定に任せず自分で見るべき5項目

AIが得意なのは「形が決まっているもの」

自動判定が力を発揮するのは、判断基準を形として定義できる対象です。

• 画像に写り込んだ文字列、数字の並び、QRコードのような図形
• 明らかに規約に反する種類の画像
• 短時間に同じ文面が大量に送られるといった、振る舞いの偏り
• 電話番号やメールアドレス、URLといった決まった書式の文字列

こうした対象は、大量に、休みなく、疲れずに検出できます。人間の担当者が同じ量を同じ精度で見続けることはできません。この点でAIは、人の代替ではなく人が見るべき対象を絞り込む装置として働きます。

AIが苦手なのは「文脈と意図」

一方で、次のような問題は自動判定に向きません。

言葉が問題なのではなく、関係性が問題であるもの。 「少し立て替えてもらえないか」という一文は、単体では違反かどうか判断できません。誰が、どの段階で、どんな流れで言ったのかによって意味が変わります。

時間をかけて成立するもの。 恋愛感情を装って信頼を築き、数週間かけて投資へ誘導するような手口は、一つひとつのメッセージが無害に見えます。全体の流れを人が読んで初めて像を結びます。

外に出た後のもの。 サービス内で完結しないやり取り、たとえば会った後の言動や、外部で起きたことは、審査の対象になりようがありません。

見た目からは判断しきれないもの。 年齢がその代表です。外見だけで年齢を推定することには限界があり、間違えたときの被害が重大です。

すり抜けやすい問題の型

下三段は、利用者が知らせない限り誰も気づけません。 通報が「最後の砦」と呼ばれるのはこのためです。

だから人の確認と通報を組み合わせる

審査の設計は、AIの穴を前提に組み立てられます。よくある組み合わせは次の三層です。

1. 公開前の自動判定：明らかなものを機械的に落とす。
2. 担当者による確認：判定が難しいもの、間違えると被害が大きいものを人が見る。
3. 公開後の通報受付：文脈や関係性の中で生じる問題を、利用者から知らせてもらう。

LOVETOKでは、動画・写真は投稿直後には公開されず、AI判定と担当者の確認を経て公開しています。未成年の可能性がある場合は、AIだけで判断せず必ず人が確認します。 連絡先・URL・QRコードが映り込んでいるものは公開されません。メッセージでは、電話番号・メールアドレス・SNSのID・URLが送信前に自動で止まり、相手に届きません。

通報は全画面から可能で、誰が通報したかは相手に伝わりません。対応の期限は、未成年の疑い・生命の危険・暴力・詐欺が3時間以内、わいせつ・ハラスメント・なりすましが24時間以内、迷惑行為・勧誘が72時間以内、その他が1週間以内としています。最重要にあたるものは、確認を待たずにまず相手を非表示にします。

誤解しやすい考え方と、その言い換え

✕「審査を通っているのだから、この人は問題ない」 → ○「審査は投稿の内容を見たもので、この人の目的や言動までは見ていない」 審査の対象は、あくまで投稿された動画・写真・文言です。

✕「AIが自動で検知するのだから、通報しなくても運営は気づく」 → ○「文脈が絡む問題は、知らせない限り気づかれない」 やり取りの中で起きたことは、利用者からの通報が一次情報になります。

✕「削除されていないのだから、規約違反ではない」 → ○「まだ誰も知らせていないだけかもしれない」 検知の網に掛からず、通報もされていない状態はありえます。

✕「AIが見ているのだから、個人情報も自動で守られる」 → ○「自分が入力し、自分が映した内容は自分で管理する」 文字列の検出はできても、話した内容から居場所が推測できるかどうかまでは判断できません。

✕「不安だが確証がないので、通報は控えておこう」 → ○「確証がなくても知らせてよい。判断は運営側が行う」 通報は告発ではなく、確認のきっかけを渡す行為です。

自動判定に任せず、自分で見る5項目

• ☐ お金・投資・副業の話が出ていないか（金額の大小を問わない）
• ☐ 外部のサービスへ移動させようとしていないか、その理由が不自然でないか
• ☐ 話の進み方が急でないか（会う前に強い言葉が続く、決断を迫られる）
• ☐ こちらの質問に答えず、話題をそらしていないか
• ☐ 自分の情報を、必要以上に多く渡してしまっていないか

一つでも当てはまるなら、やり取りの記録を残したうえで、通報とブロックを検討してください。判断に迷う段階で構いません。

安全上の注意

• AIによる審査があることは、被害が起きないことを意味しません。「絶対に安全」と説明するサービスがあれば、その表現自体を疑ってください。
• 自動検知を避けようとする書き方を相手が使い始めた場合、その行動自体が注意すべきサインです。応じずに通報してください。回避の方法を尋ねたり、試したりしないでください。
• 警察庁や消費者庁は、SNSやマッチングサービスを入口とする投資・ロマンス詐欺について継続的に注意喚起を行っています。事業者側の対策と、利用者側の警戒は、どちらも必要です（LOVETOK編集部調べ）。
• 金銭を求められた、すでに支払ってしまったという場合は、消費者ホットライン「188」、警察相談専用電話「#9110」（緊急時は110番）へご相談ください。個別の事案の法的評価は事実関係によって異なるため、本記事は一般的な整理にとどめています。

関連記事

• 通報のしかたと運営の対応：どこから通報でき、いつまでに対応されるか
• ロマンス詐欺の手口と見分け方：時間をかけて信頼を築く手口の流れ
• LOVETOKの安全対策：審査・通報・本人確認の全体像
• マッチングでマイナンバーを聞かれたら？答えず通報でよい理由

---

審査の網は、利用者からの通報があって初めて完成します。LOVETOKが自動判定と人の確認をどう組み合わせる予定かは「LOVETOKの安全対策」にまとめています。

参考・相談先：本記事は、警察庁・消費者庁・国民生活センターが公表する犯罪被害および消費者トラブルの注意喚起をもとに、LOVETOK編集部が審査の役割分担として整理したものです（LOVETOK編集部調べ）。消費生活の相談は消費者ホットライン「188（いやや）」、緊急でない警察への相談は警察相談専用電話「#9110」、身の危険を感じる場合は110番へ。

著者：横山隆一（LOVETOK運営責任者）／ 編集：LOVETOK編集部 ／ 最終更新：2026-07-27