【AIの回答を鵜呑みにしていませんか?】注意すべきハルシネーションと専門家責任

【AIの回答を鵜呑みにしていませんか?】注意すべきハルシネーションと専門家責任

筆者は以前から、不動産業とDXの親和性は高いと論じてきました。

生成AI自体は、DXそのものではないものの、DXを成功させるための有力なアプローチであることについては間違いありません。

実際、不動産業界においては皆さんが実感されている以上に活用されています。

たとえば、物件紹介文の作成や顧客へのメール返信、さらには市場分析や重要事項説明書、契約書に盛り込む特約案の作成などを、多くの方が生成AIに任せているのです。

かつては、宅地建物取引業法はもとより、六法全書や各種施行規則などを紐解きながら数時間掛けて作成していた特約文章などが、わずか数十秒で生成されるのです。

人手不足や業務の煩雑さに悩む現場においては、極めて強力な味方であることは間違いないでしょう。

しかし、筆者は顧客からの相談や実務家の声を聞く中で、ある種の危うさを感じることがあります。

それは、AIが生成した文章の流暢さに安心してしまい、専門家として不可欠な検証はもとより、思考そのものを停止してしまうケースが数多く見受けられるからです。

例を挙げると、複雑な権利関係や建築制限が絡む物件の特約をAIに生成させ、条文や判例などを勘案したうえでの精査を行わないまま、契約書や重要事項説明書に貼り付けるといった行為です。

あるいは、査定報告書や購入検討者への提案書、リスク説明資料などをAIにまとめさせ、その根拠について一次情報で裏取りをすることなく顧客へ提示するといったケースです。

AIが作成する文章は整然としており、専門用語も適切に使用されているため一見すると、万全の資料であるかのような錯覚に陥りがちです。

しかし、条文に対する解釈が不十分であったり、判例を取り違えて表示したりするケースは珍しくもありません。

これは、AIが事実無根や誤った内容をもっともらしく生成する、いわゆるハルシネーションと呼ばれる現象によるものです。

そもそも、AIは生成した情報が正しいかどうかを確実に判断できるわけではありません。学習データなどに基づき、文脈に応じて次に続く可能性の高いトークン(文章を構成する単位)を予測しながら文章を生成するため、その内容が事実に合致しているかどうかを、必ずしも検証しているわけではないのです。

したがって、情報が不足している場合や学習データに含まれていない知識はもとより、最新情報などについて質問された場合でも、それらしい言葉を自動的につなぎ合わせて文章を生成してしまうことがあるのです。

人間なら「分からない」と回答しますが、AIは適切な回答をするのに必要な情報がない場合でも、分からない場合は回答を控えるように指示されていなければ、もっともらしい文章を生成してしまうことがあるのです。

もっとも、適正性が担保されないような回答を控えるように指示をしたからといって、誤情報を含めた生成を完全に防ぐことはできません。

ここにこそ、不動産業者がAIを利用する際に注意が必要な、最大の落とし穴が存在するのです。

不動産業者に求められている専門性は「きれいな文章をつくること」ではありません。

顧客に対して何が危険でどこまで許容できるのかを適切に判断したうえで、責任をもって説明することにこそ専門家としての存在意義があるのです。

AI,ビジネス,リスク

筆者は、けっしてAIの利用を否定しているわけではありません。

むしろ、積極的に利用すべきだと考えています。

しかし、利用にあたっては特に、ハルシネーションについて注意が必要だと申し上げているのです。

本稿では、生成AIが引き起こすハルシネーションの構造を整理したうえで、AIが作成した文章などを検証なしに使用することが、どのような法的リスクと倫理的問題を招くかを検証していきます。

そのうえで、私たち不動産実務家が堅持すべき専門家としての責任と姿勢について、改めて皆さんと考えていきたいと思います。

ハルシネーションの正体

そもそも、生成AIの基本的な文章生成機能は、事実を検索して回答する仕組みとは異なります。

序章で説明したように、生成AIはトークンの確率分布に基づいて、次に続く可能性の高いトークンを予測しながら文章を生成しているという事実を、私たちは正確に理解しておく必要があるのです。

AI,ハルシネーション

例として、AIに「不動産営業に最低限求められる知見とは」と質問してみました。

すると、『プロの不動産営業として現場に立ち、顧客に実害を与えず、かつ自らの身(法令違反や損害賠償リスク)を守るために「これだけは欠かしてはならない最低限のライン(下限)」は、以下の5点に集約されます』としたうえで、次のような回答がなされました。

  1. 契約の前提条件を見抜く知見:法令上の基本制限の読み解きや、権利関係の確認、インフラの接続状況など。
  2. 取引ルール:宅建業法や民法の規定に基づき、何をしてはいけないか、何を説明しなければならないかを理解する。
  3. 資金計画と諸費用についての基礎知識:物件価格以外の仲介手数料、登記費用、印紙税、不動産取得税などの諸経費や、住宅ローンの基本。
  4. ハザード情報や瑕疵・トラブルの察知能力:当該地のハザード情報や、物件の瑕疵に関する取扱基準など。
  5. 誠実さと確認の徹底:知ったかぶりをせず、安易に「大丈夫です」「間違いありません」などと断言しない。分からないことは調べる。

なるほど、確かにいずれも不動産営業に必須とさえ言える知見です。

そこで次に「これらの知見は、すべての不動産営業が有しているか」と質問したところ、『現場の実態としては、最低限のラインすら十分に備わっていない営業担当者が一定数存在するのが現状です』と回答されました。

耳の痛い指摘ではありますが、これも納得できる回答です。

さらに、回答では補足として、『現在の不動産営業は、顧客の利益と安全を守るために自ら調査・検証できる一部のプロフェッショナルと、物件の案内と手続きの取次しかできない営業とに2極化しているのが実情です』との意見も盛り込まれていました。

このやり取りだけを見ると、AIの回答は理路整然としており、回答も正確性が高いように思えます。

しかし、ここで立ち止まって考えていただきたいのですが、AI自身が「知ったかぶりをせず、分からないことは調べる」という誠実さの重要性を説く一方で、当のAI自身には自ら生成した回答の正しさを確実に保証する能力が備わっているわけではないことが分かります。

先ほどの『最低限の知見が備わっていない営業担当者が一定数存在する』『営業担当者は2極化している』という評価についても、具体的な調査データや客観的な根拠が示されていません。

そこで、AIに対して「これらを裏付ける具体的な根拠を明示しろ」と指示すれば、例えば、国土交通省の行政処分数やトラブル事例、顧客満足度調査の結果などを引き合いに出し、あたかも先ほどの評価が事実であるかのように回答を補強してくる可能性が高いでしょう。

しかし、「それらは不動産営業の知見が2極化していることを裏付ける具体的なデータであるとは評価できない」との指摘を続けていけば、AIが当初の回答に論理的な飛躍があったことを認め、訂正する場合があります。

もっとも、必ずしも適切な訂正が行われるとは限らず、別の根拠を持ち出して当初の主張を維持しようとする場合もあるのです。

とはいえ、AIが意固地になって、自身の正当性を主張しているわけでは当然にありません。

先述したように、与えられた文脈や指示に基づいて、確率的に次に続く可能性の高いトークンを予測しながら文章を生成しているだけだからです。

それだけに、私たちがもっとも警戒すべきなのは「AIが実務を深く理解している」と過信して任せきりにしてしまうことにあるのです。

たとえば、特定の市街化調整区域における再建築の可否や、都市計画法上の開発許可基準についてAIに質問したとします。

この場合、AIは一般原則を踏まえつつも、まるで自治体独自の運用指針や具体的な許可基準が実在するかのような、実際には存在しない特例規定や運用基準を提示してしまうことがあります。

厄介なのは、実在する法令や条例の条文を引用しながら、そこには適用されない解釈や例外的な取扱いまで、あたかも確立されているかのように説明するケースです。

条文そのものが実在していれば、相応の知見を有していない限り、回答に信憑性があるように感じてしまいます。

その際「何かおかしい」「不自然だ」と感じることができるか否かが、私たちに求められる能力なのです。

ただし、違和感を覚えるだけでは十分ではありません。

そもそも、引用された条文が正しいことと、それに基づいて導かれた解釈や結論が正しいことは、まったく別の問題だからです。

こうした誤りを見抜くためには、単にAIの回答を読み直すだけでは不十分です。

引用された法令の原文を確認することや、判例の内容や判断理由を確認することが不可欠だからです。

つまり、ハルシネーションによって必ずしも文章全体が事実無根となることはないものの、正しい情報の中に誤った情報や解釈が混在したり、正しい事実を出発点としながらも、論理的に成立しない結論が導き出されたりすることがあるということです。

したがって、私たちは文章が整っている、あるいは専門用語が正しく使われていることだけをもって信頼できると判断するのではなく、回答の根拠となる情報が実在しているのか、質問の対象である取引や物件にそのまま適用してよいのか、導き出された結論に論理の飛躍が見受けられないかを、一つひとつ検証する必要があるのです。

法的リスクに要注意

不動産業者は、多岐にわたる法令の規定に基づいて業務を遂行します。

また、宅地建物取引士は弁護士や司法書士などのように法律事務を専門とする職種ではありませんが、不動産取引に関わる法律知識を扱い、重要事項説明などの役割を担う点で、法律と深く結びついています。

それだけに、不動産取引に係る契約書や重要事項説明書の作成および説明のみならず、内見時の説明など日常的な実務のさまざまな場面で、法令を遵守した適切な対応が求められます。

例えば、建物についての遵法性を確認する場合、建築基準法や消防法、都市計画法、地方自治体による条例などで求められる要件を満たしているかが問われます。

当然のことながら、再建築不可物件や未登記増築部分などについては、販売資料にその旨を記載するだけではなく、買主が取引の判断を誤ることがないよう、重要事項説明書への記載や口頭での説明など、適切な方法で情報を伝える必要があります。

しかし、再建築不可と一括りにした場合でも、その理由が接道義務を満たせないためなのか、あるいは都市計画法の制限や地方自治体の条例によるものなのか、さらには建築基準法第43条等の許可や認定が得られれば再建築は可能になるのか、許可を得られる可能性はどのくらいあるのかといった情報は、詳細な調査を実施しなければ判別できません。

さらに、建物が未登記であることと、その建物が建築基準法に違反していることは別の問題として取り扱わなければなりません。

これは、建築基準法と不動産登記法は異なる法令だからです。

また、既存不適格物件についても違法建築物とは区別しなければなりません。

これは、建築当時は適法であったものの、その後の法令改正や都市計画の変更などによって、現行の規定に適合しなくなった建築物であるからです。

また、増改築などを行う際には現行法との適合性が問題とされる可能性は十分に考えられます。

それだけに、物件資料などを作成する際には該当する規定や将来的な建築行為への影響などを確認したうえで漏れなく記載すると同時に、買主に誤解が生じないよう、事前に説明しておくことが重要なのです。

にもかかわらず、こうした物件固有の情報や法令上の制限、調査結果などについての情報を十分に与えないまま生成AIに販売資料や効果的なキャッチコピーの生成を指示すれば、物件の状態や法的な制限を反映していない、誇大表現や誤解を与えかねない資料が作成されてしまう恐れがあります。

そもそも、不動産取引における情報は購入者の人生や財産に重大な影響を与えます。

それだけに、宅地建物取引業法のみならず不当景品類及び不当表示防止法などによって誇大広告や重要事項の不告知が厳しく罰せられます。

その際、司法や行政に対して「資料を作成したのは生成AIです」と言い訳をしても、情状が酌量されることはあり得ません。

私たち不動産業者は、法的責任の主体があくまで人間(事業者)であることを、決して忘れず、さらには人間の果たす役割が、付加価値と差別化の源泉であることを改めて認識しなおす必要があるのです。

DXの活用によって高生産性を求めるからといって、従業者に対して高度なITスキルを求める必要などありません。

それよりも、これまで積み重ねてきた実直さや経験を武器にして、生成AIを使いこなす気概を持つことが大切だと言えるのです。

ハルシネーションを見抜くポイント

筆者は、研修会などで生成AIは積極的に利用すべきだと主張する一方で、検証の重要性についても言及しています。

すると、受講者の中には「AIが生成した回答を一つひとつ細かくチェックしていたら、結局は最初から自分で調べるのと変わらず、かえって効率が悪くなるだけではないですか」と指摘されることがあります。

確かに、全てを疑って調べなおすのならご指摘どおりです。

しかし、「検証すべき勘所」さえ正確に理解しておけば、チェック作業そのものは過大な労力を要することはありません。

むしろ、ゼロから文章を組み立てたり資料を整理したりする時間をAIが大幅に短縮してくれる分だけ、業務全体の負担は確実に軽減されることでしょう。

それでは、不動産実務における生成AIのハルシネーションを見抜くためには、どのような点に注意して検証すべきなのでしょうか。

筆者は、ほぼ毎日のようにさまざまな業務でAIを活用していますが、その経験から得た勘所として、次の3点に注意すれば目的を達せられると考えています。

① 固有名詞・数値・法令条文などの事実関係については、必ず一次情報と照合する

生成AIは、文章全体の構成や論理展開を整えることが得意である一方、具体的な数値や条文番号、裁判例、あるいは自治体の独自ルールなどをそれらしく創作してしまう傾向があります。

たとえば「契約不適合責任について不動産業者の責任が否定された裁判例を、具体的な事件番号を含め3つ挙げよ」と指示した場合、具体的な事件番号と概要が生成されてくることでしょう。

ですが、事件番号に基づき実際の判決文を確認すると、確かに契約不適合責任は否定されているものの、別の構成要件である説明義務違反があったとして、損害賠償の支払が命じられていたりします。

このような実例があるだけに、判例の結論や判断の枠組みのみならず、「根拠法令」「条文番号」「税制特例などの適用要件」「地名や施設名」「公的機関の正式名称」といった事実については、必ず法令データや公的機関の一次情報と照合する必要があるのです。

② 断定的な表現や都合の良すぎる回答は疑ってかかる

法解釈や行政の判断には「原則はこうだが、このような例外がある」「個別の事情によって判断が異なる」「~に該当する場合はその限りではない」といった留保が付けられているケースが多くあります。

にもかかわらず、AIが「こうである」といった断定的な表現をすることがあるのです。

そもそも、法律や条例の条文は一定の条件下における基本的なルールを設けているに過ぎず、個別具体的な条件によって適用範囲が異なる余地が残されています。

条文を確認するだけでは、実際の事案においてどのような解釈や判断がなされたのかを把握できるとは限りません。

したがって、具体的な事案に対する判断や適用範囲を理解するためには、関連する判例や行政機関の運用、個別の条件などを併せて確認する必要があるのです。

AIは質問者の意図に沿おうとするあまり、例外規定やリスク要因を省いて都合の良い回答を出力することがあります。

それ故に、断定表現を見つけたら「例外規定や適用されないケースを具体的に挙げてください」と追加で問いかけるのも有効な方法の一つです。

③ 検証の前提となる一次資料をAIに読み込ませてから指示を出す

ハルシネーションは、AIに対して一般的な知識だけで回答させようとした際に発生しやすくなる傾向があります。

したがって、登記情報や物件調査の結果、自治体の条例や関連するガイドラインの抜粋など、正確な一次情報を指示文に添付して入力するだけでも正確性が増します。

ただし、資料を読み込ませたからといって、必ずしもその内容を正確に理解して、適切に適用するとは限らないのですから厄介です。

先述したように、AIはトークンの確率分布に基づいて、次に続く可能性の高いトークンを予測しながら文章を生成しています。

したがって、資料の読み違いや重要な記載の見落とし以外にも、資料に記載されていない情報をオープンデータなどから補って回答してしまうことがあるのです。

だからこそ、出力された内容を確認することが重要だと言えるのです。

とはいえ、照合先を限定することによって確認の手間が劇的に減る可能性は高まります。

これら3つの勘所で示したように、AIの回答を検証する作業は回答結果や生成物のすべてを疑って調べなおす作業ではありません。「AIが不得意な数値や法令などの領域を注視して突き合わせる作業」なのです。

AIに下書きや整理などを任せ、人間は専門性や経験値を活かして「勘所の検証」と「最終判断」に徹する役割分担こそが、法的リスクを回避しながら業務効率を最大化させる現実的な運用方法だと言えるでしょう。

リスキリング能力を高めるためにこそAIをフル活用する

不動産業界のみならず、政府は全産業に対してリスキリングを推し進めるよう提唱しています。

ご存じかと思いますが、リスキリングとは技術革新やビジネスモデルの変化に対応し、新しい職務に就くため、あるいは現在の職業で求められるスキルの大幅な変化に適応するために、必要な新しい知識やスキルを獲得することです。

つまり、新しいスキルを身に付けることで、自身の活躍できる場を広げるという考え方です。

このような定義があるからでしょうか、多くの方が、「現在必要とされているスキルとは関連性のない新しい学びを始めることがリスキリングである」と誤解しているようです。

不動産業界で言えば、今後、外国籍の方との取引量が増えると予測して、英会話学校に通うといったケースです。

もちろん、新たに英会話を学ぶこと自体を否定するつもりはありません。

しかし、実際問題として、実務で高度な英会話能力が求められる場面がどれほどあるのでしょうか。

日本の不動産取引においては、外国籍の方が買主であるからといって、売買契約書や重要事項説明書を必ずしも英文で作成する必要はありません。

国土交通省の「不動産事業者のための国際対応実務マニュアル」では、日本における裁判は日本語に準拠することを理由に、不動産取引に関連する書面は、日本語によるものを正本とすることが推奨されているのです。

不動産事業者のための国際対応実務マニュアル,売買契約の締結における留意点

また、外国語での説明や通訳が必要となる場合においても、その手配をどちらが行うかは取引の状況や当事者間の調整によって異なります。

それだけに、英会話能力などが必要とされるのは内見時における説明や、コミュニケーションを円滑にするための雑談時など、限られた場面が中心ではないでしょうか。

スマートフォンアプリの高精度なAI翻訳ツールを使えば、こうした場面での意思疎通を補助することは十分に可能でしょう。

つまり、ゼロから別のスキルを身につけることよりも、現在の実務にAIを掛け合わせ、業務の質やスピードを劇的に高めることこそが、私たちに必要なリスキリングだと言えるのです。

物件紹介文や広告のキャッチコピー作成、顧客への追客メールの文面作成、あるいはエリアの市場データ分析や法改正の要点整理などについては、AIを活用すれば数分ほどで完了します。

人間は、先述した「検証すべき勘所」に基づき精査すれば良いのです。

つまり、AIを使いこなすスキルを身につけること自体が、現代における最も実践的なリスキリングの一つとさえ言えるのです。

AIは日進月歩を続けていますが、現在までのところ人間がAIより優れているのは現場の空気を読み、個別の事情に寄り添う「経験値に基づく知見」だと筆者は考えています。

しかし、だからといって過去の経験や従来のやり方だけにしがみついているようでは、個人としての成長は望めません。

私たちが成長するためには、必要な時間を確保することが重要なのです。

それだけに、情報収集や文章作成といったAIが得意とする分野の作業は思い切って任せ、顧客との深い対話や交渉、信頼関係の構築といった「人間にしかできない作業」に、私たちは集中するのです。

過去の経験値は、磨き上げなければ路傍の石と変わりません。

ですが、リスキリングを意識して学び続けることで個人が有する「真似のできない独自の付加価値」へと昇華します。

そして、それを実現するためにこそ、AIと人間の役割分担は不可欠なのです。

まとめ

生成AIは、不動産実務のスピードと可能性を大きく広げる強力なツールです。

しかし、どれだけ技術が進歩しても、取引の安全を守り、顧客の意思決定に影響を与える情報に関して責任を持つのは「人間」です。

書面の記載内容に問題があってトラブルに発展した際、「AIが生成した文章です」と言い訳したところで、責任を免れることができないのは、序章で述べたとおりです。

私たちはAIに使われるのではなく、使いこなす必要があるのです。

それだけに、一次情報による裏取りや法解釈の精査といった守りの検証は徹底しつつ、AIの活用によって生み出された時間を、攻めの対話や自己研鑽に注ぐことが大切なのです。

そのような実直な積み重ねこそが、変化の激しい時代において選ばれ続ける不動産実務家の条件であると、筆者は確信しています。

あなたへのおすすめ