close

株式会社アートリー

事例紹介

  • CASE STUDY事例紹介
  • SERVICEサービス
  • WORKS制作実績

メタバース開発

  • METAVERSEメタバース開発
  • STUDIOスタジオ
  • SOFTWAREソフトウェア

番組コンテンツ

  • PROGRAMS番組コンテンツ
  • ARTICLES記事コンテンツ
  • TOPICS最新情報
  • 会社案内
  • クライアントサービス
  • お問い合わせ
  • プライバシーポリシー
  • 採用情報
  • indeed|Wantedly|LINE

COPYRIGHT © 2011-2023 ARTORY INC. ALL RIGHTS RESERVED.

  • icon
  • icon
  • icon

PICKUP ARTICLES注目の記事コンテンツ

比叡山延暦寺 VEDUTA COLLECTION ファッションショー

比叡山延暦寺 VEDUTA COLLECTION ファッションショー

伝燈LIVE プロジェクトレポート Part.1

世界遺産 比叡山延暦寺でコレクションを開催 思い描く日本文化の未来

第15回 社内業務DX EXPO

Japan DX Week 秋【幕張メッセ】

PICKUP TOPICS注目の情報

マーケティングWeek【東京ビッグサイト】第1回 ブランド戦略・PR EXPO -春- に出展のお知らせ

マーケティングWeek【東京ビッグサイト】第1回 ブランド戦略・PR EXPO -春- に出展のお知らせ

社員が日本記録に認定されました|日本記録認定協会

社員が日本記録に認定されました|日本記録認定協会

株式会社アートリー

すべての一覧
サービス
制作実績
事例紹介
スタジオ
  • icon電話で質問
    (052-684-6478)
  • iconメタバース
    オフィスを訪問

番組カテゴリー

番組TOP

番組リスト

経営とビジネス戦略

経営とビジネス戦略

BUSINESS

テクノロジー

テクノロジー

TECHNOLOGY

デジタル変革

デジタル変革

DX

倫理と社会的責任

倫理と社会的責任

ETHICS

マーケティング

マーケティング

MARKETING

思考とスキル

思考とスキル

MINDSET & SKILLS

社会と経済

社会と経済

SOCIETY & ECONOMY

  • トップページ
  • 番組コンテンツ
  • ダークウェブで闇堕ちする⽣成AI!増加するAI犯罪から安全を守るには
ダークウェブで闇堕ちする⽣成AI!増加するAI犯罪から安全を守るには

2024.02.22 放送分

ダークウェブで闇堕ちする⽣成AI!増加するAI犯罪から安全を守るには

第173回アートリーアカデミア

THEME

ダークウェブで闇堕ちする⽣成AI!増加するAI犯罪から安全を守るには

AIの進歩とともに、ダークウェブでの悪用も深刻化しています。個人情報の保護、フィッシング詐欺への対応、セキュリティ意識の重要性について議論します。アートリーアカデミアでは、どのような答えを見つけたのかをご覧ください。

TOPICS

フリップ解説

佐藤
さあ、今回のアートリーアカデミアは。
井戸
「ダークウェブで闇落ちする生成AI!増加するAI犯罪から安全を守るには」。ダークウェブとは一般的な検索エンジンでは表示されない専用のブラウザで閲覧する必要があるウェブサイトのことです。検索エンジンを用いて閲覧できるサーフェスウェブ。パスワードや認証を通って閲覧できるディープウェブ。匿名ソフトを使わないと閲覧できないダークウェブという3段階になってまして、非常に匿名性が高いことから違法な取引や犯罪などで利用されることが多いです。
佐藤
これ毛受さん、知ってました?ダークウェブって。
毛受
いや、私ちょっと初めて知りました。ダークウェブという言葉自体も初めてですし、そういうものがあるってことも知らないので、私が知ってるのは、サーフェスウェブだけですね(笑)。
佐藤
(笑)。ディープウェーブっていうと、例えばSNSとかもディープウェブに入る。
毛受
パスワードを入れて見れる。そうですね。じゃあディープウェブまではわかります。
佐藤
ダークウェブっていうのは、TORっていうブラウザがあるんですよ。SafariとかChromeとかああいう、TORっていって。要は何かっていうと、ダークウェブ自体がオニオン構造っていって、もうタマネギの皮をむくみたいな、匿名性を担保するためにいろんなサーバーを経由して1枚ずつ皮をむいて情報が最終的な人に届くっていうシステムになってて。その皮をむくからTOR、むくっていう意味でTORっていうブラウザを使って見るっていう、ダークウェブっていう。でも、意外とこのダークウェブ上で匿名の通報だとか、だから例えばニューヨーク・タイムズだとか、で、大体ちゃんとしてるっていうか、.onionってつけるんですよね、ドメインに。何とかドットコムみたいに。だからニューヨーク・タイムズ.onion(笑)、みたいにすると、TORでしか見れなくて、そこ上で匿名のそういう機密のリークをしたりだとか、そういう使い方とかもあったり、実はしていて。
久田
悪いだけじゃない。
佐藤
そう。だからいずれにしても匿名性が高い。で、一般的にこのTORを使わないと見れないサイトばっかりなんで。
毛受
知らなかったです。
佐藤
っていうダークウェブっていうのがあるんです。で、このダークウェブ上で今はやりの生成AIの犯罪がどんどん加速してるっていうか、はかどってるっていう状況で。
井戸
はかどってる(笑)。
佐藤
一回ちょっと次のフリップ見ていきましょう。
井戸
悪用されるAI。ダークウェブがAIの悪用を加速する温床になっており、詐欺や犯罪の指南、サイバー攻撃を促進するコンテンツを量産しているそうです。例えばChatGPTの流出アカウントの売買、ChatGPTの脱獄の知見の共有、アンダーグラウンド版ChatGPTの提供、音声クローンやディープフェイクといったものが挙げられています。
佐藤
このChatGPTのアカウント、80万件流出したんだったっけな、こないだ。で、これ、どういう価値があるかっていうと、AIを使って、プログラミング、ソースコードを入力したりだとか、機密的な情報とかを結構ChatGPTと対話してたりするんで、アカウントを盗んで企業の機密情報とかを、
久田
ログのほう?
佐藤
そう。ログのほうを盗む価値があるから、アカウントを流出させよう、売買されたりするんだよね。あと、脱獄っていうのも結構iPhoneのときにはやったんだけど、スマートフォン。iPhoneに入れれる、ソフト、アプリって全部App Store上で、Appleの審査をとおったものしかダウンロードできなかったりするんですけど、脱獄すると、App Store経由じゃないアプリとかを入れたりとか。今だと壁紙とかああいうiPhoneが用意している機能しかできなかったやつが、アプリのアイコンを自由に変えれたりだとか、ああいうのも脱獄するとできるようになったりするんですけど。
毛受
脱獄する(笑)。
佐藤
だから脱獄っていうのは、だからソフトが準備している規制されたやつをはずすっていうこと。
毛受
そういう意味なんですよね。
佐藤
で、ChatGPTの脱獄っていうと、GPTって結構倫理性の高いことだとか、そういうアダルトなこととかは答えられないとか、犯罪のことを答えられないとかあるんですけど、ChatGPTの脱獄をして、開発者モードみたいなことができるっていう。で、そういったコードとかが、それも結局イタチごっこで、OpenAI社とのイタチごっこは対策されてるんですけど、最新の脱獄するやつ、コードっていうかプロンプトがダークウェブ上で取引してたとか。で、脱獄して、じゃあ何やるのっつったら、爆弾の作り方をあれしたりとか、もう違法なあれだよね。フィッシングメール、フィッシング詐欺の文章を作らせるとか。日本語って結構特殊だったから、今まで。割とフィッシングメールでも何か、
井戸
下手くそですよね、日本語。
佐藤
下手くそだったじゃん。最近めちゃくちゃうまくなってきたよね。
井戸
なってきてます。すごい思う。
久田
精度が上がってんの。
佐藤
俺、こないだ、だって間違えてたもん。クリックしそうになったもんね。
井戸
ありました、私も。
佐藤
あれ?みたいな。
毛受
これまではちょっと怪しい文章、てにをはが変とか、中国っぽいなみたいなのが、もううまく作られちゃうという、恐ろしいですね。
佐藤
だから外国人が日本に対してのフィッシングメールみたいな、詐欺みたいなやつも、このChatGPTの脱獄だとか、あとこのアンダーグラウンド版ChatGPT。そもそもこのAI、ChatGPTみたいな、ああいうのを、もう最初から、もうそういう犯罪、ワームGPTとかいって、ウイルスを生成するGPTだったりだとか、あと、何かあるわ、いろいろそういうのが。何かウイルスを作ったりだとか、犯罪的な情報を出したりだとかするAIっていうのが、もう既にそれが取引されてて、月2万円か3万円とかの有料プランで利用できるアンダーグラウンド版のChatGPTみたいなやつがあって。
久田
そういうところは割と売り方が一般的っていうか、サブスクみたいな、ちょっと買いやすくしときましたみたいな。整ってるんですね。
一同
(笑)
毛受
そこはあんまり下手なことをしないみたいなね、ちゃんとしてるみたいな。
佐藤
そういうものが提供されてたりだとか。あと単純にディープフェイク。顔をすり替えるっていう。
井戸
売りやすいよね、クローンとかね。
佐藤
だとか、音声クローン。結構、音声クローンでもだまされる人多いらしい。最近電話とかもかけれるようになってきてるらしいから。音声のそういう電話、詐欺みたいなのにも活用されてるみたい。すごい、だから犯罪に活用されてんだよね。で、どれぐらい今、活用されてるのかっていうのをちょっとデータで持ってきてます。
井戸
サイバー攻撃の被害データです。まずフィッシングサイトのURLの件数なんですけども、2017年はまだ約8000件だったものが、2022年には31万件まで増えています。次にサイバー攻撃の被害額ですね。こちらも2017年には1.4億ドルだったものが、2022年には10.3億ドルまで伸びています。
佐藤
もうこれ2022年までのデータなんですけど、当然それまでもAIっていうのはあったんで。で、これ爆発的に増えた、この2023年だよね、去年か。だからAIが、ChatGPTがもう爆発的に増えたから、だからさらに増えてるっていうのはもう想像できるかなと。すごいもんね、これ31万件ってさ。
毛受
すごい数ですよね。
久田
この5年で。
毛受
でも、犯罪もしやすくなったというか、便利になったって変ですけど、言い方が。お手軽にこういうことが知識として、悪いことの知識も、もうちょっとここに入れば得られちゃうっていうのは怖いですよね。
佐藤
本当にそう。だから実際の被害も10.3億ドル。多分、いや、もうこれ相当すごいことになってんじゃないかな、今。
久田
すごいですね。慣れてきて、フィッシング詐欺とかに。被害額落ちていってるのかと思ったら、ばんばん伸びてるんですね。人間は成長してなかったっていうこと。
井戸
リテラシーは上がってはいると思ってたんですけど、でも、だからもっと上いってるんじゃないですか。人間のリテラシーの向上以上に。
毛受
巧妙なテクニックになってきたりとか引っ掛かりやすいようになってきてるんですね。
佐藤
捨てアドレスとか使ってる人とか少ないから、あれなんじゃない?俺らだといくつかメール使い分けたりするじゃん、捨てアドレスみたいな。
久田
メールアドレス、1人一つのルールの人結構いるじゃないですか。え?みたいな。
井戸
IT業界ですよ。IT業界の人たちはみんなやっぱりメールアドレス、いくつも持ったり、それこそパスワードすごく強固にしてたりとか、あと通信業界の人ですけど、もうそれ以外の業界の人なんて本当に、いまだに本当に単純なパスワード、4桁の暗証番号だったり、スマホとか。
毛受
忘れちゃうからって変えない人は多いですよね。
井戸
全部同じパスワードとか、やっぱざらにいるんで。
佐藤
だからパスワードなんかも流出すると、AIが自動でもうブルートフォースアタックっていう、総当り攻撃みたいな。で、いろんなアカウントに同じパスワードで入れるかどうかみたいなやつを、がーってやったりとかするし。
井戸
大体入れそうですしね。
佐藤
だから情報が流出して、だからすごいネズミ講式に情報がどんどん流出していってるような感じ。
毛受
いや、そうですね。パスワード、本当変えないとやばいですね。
佐藤
パスワードも変えないとやばいし、一つ一つ、やっぱり強固にしていって。で、パスワード管理アプリみたいなやつもあるので、ああいうのを使っても、覚えてないもんね、僕も自分のパスワードなんか。
久田
覚えてないですね。
毛受
覚えれない(笑)。
久田
端末なしでパソコンの前に座らされても何もできんもんね。どこも入れないっていう(笑)。
佐藤
逆に流出していいアカウントは、もう流出していいパスワード使ってます。でも、どういった対策の方法があるかっていうのが、ちょっと今、出ましたけど、フリップでまとめてるんで。
井戸
対策の方法です。適切なアカウント管理。詐欺に対するリテラシーの向上。セキュリティシステムの導入といったものが挙げられてます。
佐藤
今、言ったようなところなんですけど、アカウント管理、リテラシーの向上、で、あとセキュリティシステム、これ企業の場合だと、もう今、AIのセキュリティも入れれるんで、うちも入れてますけど、結構それが優秀だから、
井戸
入れてます、うちも。
佐藤
ウェブサイト、スキャンしてくれて、自動で。Imunify360か。あれ見てると世界中からもうばんばん攻撃されてるのがわかるんだよね。もう例外なく、どんなサーバーでも、もう攻撃されてる。うちなんかでも管理いっぱいしてるじゃん、企業のサーバーとか。すごいよな。やっぱあれAI使ってないと、あんなふうにならんよね。
久田
そうですね。人力でやってるとしたら、逆に何かよう働いてると思う。
一同
(笑)
佐藤
少なくても、だって1日何百件って攻撃されとる。一つのサーバー、全然大したことないサーバーでも。
久田
本気で攻める気になったら、多分もうちょっとやるんだろうなって思うんですけど、ちょっとおやつみたいな感覚で攻撃されてたりする。
井戸
ジャブみたいな、ずっとこうやって。
久田
ペペペペッ、ペペペペッみたいな(笑)。とりあえず、当たり前のやつだけ仕掛けとこみたいな。
佐藤
多分踏み台にできるサーバーを日頃から調査してんだよね。踏み台っていって、本当はAっていうサーバーを攻撃したい、このターゲットのサーバーがあって、で、攻撃するためにはいろんなサーバーから、ぶわーってデータを送ってクラッシュさせるんで。自分の言うことを聞くっていうか、コントロールできるサーバーみたいなやつをたくさん構えてやるんですよ。踏み台にするっていう。だからそういう踏み台にできるサーバーみたいなやつを、日頃から多分検索してリスト化させてて、ほんでさらにその中にあるメールアドレスだとか、そういうのも全部クラックしてって、それでメールアドレスの攻撃から何もかも、ここのサーバーで経由して、このプロキシを通すみたいな。自分の匿名性を高めて攻撃するとか、いろんな使い方ができるから。で、日常的に世の中にあるサーバーのこのIPアドレス番号を、もう総当たりで、もうぶわーって攻撃してって、自分の攻撃の型にはまるやつを全部調査してんだよね、多分。
井戸
すごいな、その労力。
佐藤
その労力は今まで手作業でやってたやつが、このAIによってとかChatGPTとか、このダークウェブの発展で、もうばんばん犯罪が、だからサイバー攻撃がどんどんはかどってるわけ。
井戸
人間の生活だけじゃないですね、便利になるのは。
佐藤
だからAI使って犯罪を起こすんだったら、もうAI使って、もうパトロールとかセキュリティを高めないと何ともならないよね。
久田
無理、無理。イタチごっこじゃないですか、基本的に攻撃とガードって。イタチごっこの向こうのターンがめっちゃ多いですもん。ずっと敵のターン。
一同
(笑)
佐藤
ずっと的にターンだよね、確かに。基本的に攻撃されてから対策するんだよね。
井戸
確かに先は向こうですね、基本ね。
佐藤
いや、すごいよね。だからこういったアカウントのパスワードの管理だとか、そういう詐欺だとか、そういうものに対するリテラシー、自分の判断のリテラシーの向上っていうのは、やっぱ最低限でも身につけていかないといけないかなみたいな。だからもう、あれはオレオレ詐欺と一緒よ。ちょっとでもおかしいと思ったらみたいな、
久田
おかしいと思ったらっていうか、もはや全部おかしいと思っていかなあかんよね。
井戸
守ってもらえるというか、大前提、安全って思ってるんだな、まだとは思ってました。
佐藤
目の前で犯罪が行われてたら、やっぱ警戒するじゃん。例えば何か隣のコンビニに包丁を持ったおじさんが入っていったとかさ。そしたらちょっと夜に出るの気をつけようかとか、そうなるじゃん。だけど結局、目に見えないところで行われてることばっかりだから。
毛受
そうなんですよね。結構メールに、もう本当のメールじゃないもののほうが多くなってきてて、
井戸
メルマガみたいな。
毛受
メルマガだったり、これが払われていません。私、そのカード持ってないんだけどなみたいな。ほぼほぼ、そういうのになってきたときに、でも、何か自分が失ったものが今の段階でないから、ちょっとぼんやりしちゃうっていうところはあります。すごく情報出てるんだな、私のメールアドレス、すごい流れてるんだなと思うんですけれども、何かぼんやりしちゃうっていうところはリテラシーが低いってところはあるかもしれないですよね。
佐藤
もうメールアドレスは、もう流出してるもんだと思ったほうがいいです。
井戸
変えたところで、もう一緒ですもんね。
佐藤
あと本当にやっぱり流出せんようにしようと思ったら、別にできるっちゃできるから。もう全く仕事でメインで使ってるやつなんて、もう絶対に登録しないもんね。
井戸
そうですね、それは。
毛受
メールアドレス登録、そうですね。
佐藤
もう、そういうサービスを利用するためのアカウントはそのアカウント用でやる。
久田
そうですね。あとサービスの種類とか情報レベルによって、メールアドレスを分けたりとか。
佐藤
それもある。とりあえずお客さんに対応するためのメールアドレスは、もう絶対にサービスに入力しない、基本的に。
毛受
そこ大事ですね。
久田
そのメールアドレスでも、たまに何かきたりすると、誰かに売られたんだなと思う。
一同
(笑)
井戸
確かにそうだね。こんな大事にしたのに。
佐藤
だから嫌がらせしようと思ったらできるからね。人のメールアドレスを勝手にメルマガに登録したり。
久田
山ほど登録して。でも、やれちゃうもんね。
佐藤
昔、めっちゃむかついたやつがおったから、それやったったことある、学生時代。
一同
(笑)
毛受
もう大体アンケートとか書きますもんね、メールアドレスは。
佐藤
ひたすら外国語の、もうメールアドレスみたいな何かもう100件とか200件みたいなの一発で登録するんです。
久田
嫌がらせ用のサイトがある。
佐藤
(笑)。そういう次元じゃないもんね。
毛受
犯罪ですよね。でも、やっぱりここ知っておかないと、私たちもそうですけれども、私は特に子どもがいるので本当にこういうの注意してほしいなってすごい思うし、私たちよりもやっぱりこういうところに引っかかる、もう可能性が高くなってしまってるから、もちろん親も伝えたりとか、こうやって番組で伝えることも大事だけども、教育が変わってくるんじゃないかなっていう、本当に教育の中にこういうの入れてくれないかなって思いますね。本当に知ってる子は知ってるけど、全くわかんない子はわかんないって、情報弱者が出てきちゃうと困っちゃうかなっていうのありますよね。
佐藤
もうインターネットなんて大体実名なんて出しちゃいけないのが、もう昔、子どもの頃のもうイメージなんで、本来は。ばんばん、今SNSとかで当たり前に出してるけど。
毛受
顔も出しちゃってるしっていうの。
佐藤
それこそ、旅行とか行きましたってとかいって、それで空き巣狙われたり、そんなの一時期、めちゃくちゃはやってたもんね。一回ちょっと今日のテーマ見ていきましょうか。

TOPICS

テーマ討論

井戸
「ダークウェブで闇落ちする生成AI!増加するAI犯罪から安全を守るには」。
佐藤
だから、すなわちどうやってサイバー犯罪から守るっていう話なんだけど、企業もそうだし、個人の話が割と今、強かったかなっていう感じ。基本的に挙げられるのが、サーバーが攻撃されるっていう。で、経済的損失、ECサイトがあったりとか、ああいうのを運営してたやつとか業務が止まるとか、これはもう昔から対策してきてるものの、で、個人にっていうところで言うと、詐欺のメールだとか、あと詐欺のコンテンツっていうところだよね。あとはちょっと幅広げると、そのプロパガンダ。メディアサイトから情報操作で世論だとか、そういうののコントロールもあったんだけど、今はもうさらにそれの先に進んで、もう詐欺でうそ、フェイクニュースってやつが。
毛受
一旦落ち着くみたいなのが大事かもしれないですね。情報を見たりとかメールきたりとか、もうすぐ、え?ってなる。一旦落ち着いて、真実は何かっていう、ちょっと見るっていう、一呼吸置く。で、相談するとか誰かに聞いてみるとか。
佐藤
そうすると個人じゃなくてプロフェッショナルの検閲を挟んでから、それぞれにいくっていう。何かイメージ的には郵便局で一回、爆弾かどうかちゃんと調査してからやるみたいなこと、例えばさ。
毛受
直でくるんじゃなくてっていうことですね。
佐藤
直でメールきちゃうんだけど、企業とか組織だったら。一旦挟んで、このメール安心ですよ、どうですよっていうのをちゃんとしたうえで届くっていうか。一応、人が最終的な判断はする必要があると思うんだけど。でも、そこの過程において、AIがこれは怪しいですよとか、スコアリングしてくれて、メールを。
久田
そこのスコアリングは簡単にやれそうですよね。それこそリンク先のドメインとか見てくれるだけでも、すぐ出せるじゃないですか。
毛受
今はまだないんですか、そういう検閲AI。
佐藤
いや、多分そういうのはあると思う。サービスとしてはあると思いますね。そういうのを単純に利用していくだけでも違うと思うし。で、イタチごっこをやってるんで、そいつらと。だから割とそんな被害ってのは全く無検閲で入るよりはましかもしれないですね。いや、これ犯罪するほうだったら、今むちゃくちゃ犯罪天国だもんね。
久田
やり放題ですよね。
佐藤
やり放題。あの手この手でいくらでも浮かぶ。一発、それで犯罪やって、何かそれで何かぼんって、もうけようと思ったら、こんなのいくらでももうけれる。カード情報、ばんばん抜いていってみたいな。で、そのカード情報を使うのかわかったら、そのカード情報を別にダークウェブで売ればいい、仕入れして。使うってなると足がつく可能性があるから怖い。ちょっと犯罪を助長するような話しちゃいけないけど、だけど、そのためにだからダークウェブが結局温床になっちゃってる。
久田
各犯罪にかかわるフェーズも、今、すごい分散されてるじゃないですか。受け子だ、かけ子だ。そういうところでやっぱり犯罪が露呈しにくくはどんどんなってってるので、何かそこのやり取りもダークウェブを介して分散できるし、リスクは減らしていけれますよね。
毛受
やっぱり意識を本当持たないと難しいですね。ぼんやりしてると、だまされちゃうと思うと。
佐藤
ぼんやりとやられる。結局アドレスとかを見たときとかに、何か巧妙なアドレスとかもあったりするけど、でも、ん?っていうのがやっぱ大切。
毛受
ちゃんとアドレス見て。
佐藤
だんだんあれかもしれん。もう登録してるサイトしか見れんくなってくるっていうか、もうサーフェスウェブがどんどん狭くなってくるのかもしれない。サーフェスウェブ上には詐欺サイトとかがいっぱいあるから。
毛受
何か見るときは本当にパスワード入れてちゃんと見るみたいなところが増えてくるとか。
佐藤
っていうか、もう許可したドメインしか表示しないとか。
毛受
そういうことですね。だからAIって、いい面だけじゃなくって、やっぱこういうことにも本当に注意を払わないと危険ですよね。
佐藤
圧倒的に犯罪AIのほうが多いと思う。
久田
多いよ。だってあっちのほうがリテラシー高いもん、絶対。
佐藤
あっちのほうがリテラシー高いし、動機があるじゃん。
井戸
お金を稼ぐ。
久田
明確な動機がありますから。
佐藤
動機があるからやるじゃん。守るほうって動機ないもん。
久田
もうかるもんね。不思議なんですけど、生成AIとかって脱獄があるように、じゃあ生成AI、これを作りますっていうものの周りにルールがあるじゃないですか。これを作ります。だけど、これは超えちゃいけないよっていうのが生成の中心にない。最終作ったものに対して出していいか、出していけないかの、この倫理の壁みたいなのが、この中央には組み込めんもんなのかな。
佐藤
組み込めないね、それは多分。だってできないもん。何でかっていうと、まず倫理っていうものがない。倫理の判断ができないから、まず。で、倫理の判断ができたとしても、これまた難しいんだけど、人の倫理の判断ができる、できないって、ジャッジも違うし。人によって違うじゃん。で、倫理を超えてもやっちゃう場合もあるし、
井戸
人もね。
佐藤
だから、そういうものなんだよね、倫理って。だからAIには、なおさらできるわけがないっていうね。ファジーの究極点におるやつだから、だから出てくるものに対して検閲をかけるっていうことしかできない。発想としては結局出ちゃうから、生まれちゃうから。別に悪い人間じゃなくて、犯罪するつもりもないんだけど、発想としては出ちゃうっていうことは、AIでも、いくらでも出せちゃうって話なんだよ。
久田
こうやったらやれるよねっていう、さっきの話じゃないけど。
佐藤
そうそう。だから人間も結局プロセスとしては、それを言うか、言わないか、やるか、やらないかっていうのは倫理の外側の倫理のこと。
久田
最後の倫理の壁ですもんね。
佐藤
だからその思考回路にならないようにするっていうことは無理。
久田
すごい聖人君主とか。
佐藤
(笑)。それはできない。
毛受
やっぱり罪悪こそ、もう本当にないので、善悪って誰かが決めることなので、今の世の中では、これは善で、これは悪だけど、でも、それって私たちが決めてることだから、もう一択、もうこれはっていう真理ってないわけじゃないですか、善悪って。だから難しいですよね、そこは。
佐藤
真理がないの、善と悪の境界線が。
久田
確かに。時代によっても変われば、国よっても変わるし。
毛受
法律によって変わってくるんで。
佐藤
中国はもしかしたら、それを別にいいですよみたいな、他国の人だったら攻撃しても構いませんっていう法律にしとるかもしれん。
久田
ありそう。
井戸
悪じゃないわけですもんね。
佐藤
もうそれは他国から利益を取れるんだったら、他国に対しての犯罪はいいですよみたいな何か暗黙の了解みたいになってて、ロシアとか、ああいう共産党系のあれは、社会主義系は。
久田
それは、でも、国の政策の問題だもんね。
佐藤
国の施策の話になってくるじゃん、それって。だからもうそれすらやっぱAIもできるかっつったら、できんじゃん。
久田
確かにかけれないですね。
毛受
やっぱりこれも、もうそれこそ、だまされたほうが悪いんですよみたいになってくると。
佐藤
そういう文化になっちゃうと。
毛受
文化になっちゃうと、だますのもしょうがないよねみたいな。もう人を殺さなかったらいいよねぐらいになってきちゃうと、もっと怖い。だまされるほうが悪いじゃんとか。
佐藤
人を殺したっていい時代だってあったわけだもんね。戦争だって、人を殺していいわけだもん、他国のやつ。
毛受
善悪がないからこそ、ちゃんと守っていくっていうのは、自分たちで、きちっとやらないといけないですね。もう本当にそれはAIであったり、もう日常生活もすべてにおいて、ちゃんと自分で守るんだって意識を高くしないといけない。
佐藤
でも、それかもしんないですね。震災とかああいうのが起きたときとかに、もちろん公共のものとかでも対応してくれるんだけど、結局救いきれんやん。もう山ほど瓦礫の下の中で下敷きになっちゃってみたいな。だけど、それを助ける人たちも限界があるから。もちろんそういうのは来るんだけど、だけど被害が最大化して、結局は危機になる前に自分でも何とかできるようにやろうっていう考え方ってちょっと広まってきてるじゃん。公助だけじゃなくて、自助、共助っていうさ。だからそういったところで考えたときに、やっぱりこういったサイバー犯罪とかAI犯罪に関しても、布教活動が多分必要で、人々の意識が今、毛受さんが言われたように、変わっていくことが安全を守ることにつながるんだよ。
毛受
わからないとかじゃなくて、本当にしっかり見ていって、じゃあ対策するんだったら、何があるか、何ができるのかっていうのを、こういうテクノロジーとかAIの恩恵を受けてるんだから、その部分、危険はあるんだよ、当たり前だよっていうことをちゃんと意識して、こっちばっかり受けてって、こっちは、えー、怖いじゃなくて、こっちも、もう同等ぐらい、意識は、もう利用するなら守ることも大事みたいになってきてるってことですよね。
佐藤
そりゃそうだよね。結局だって銀行だとか、ああいうもの金融機関があるおかげで便利なんだけど、なかったら、だって全部これ現金で持って、それでやらなあかんわけやけど、銀行なんか、ああいうのがあってとかあるから振り込み詐欺が起こったりだとか、そういうことが起こるわけでしょ。現金だったら、だって、オレオレ詐欺、わざわざ取りに来んじゃん。
井戸
ピンポンってね(笑)。
佐藤
ピンポーンって、回収しに来ましたとかさ。
井戸
オレオレみたいな。
佐藤
でも、そういうやつもいるのか。
久田
おじいちゃん、おばあちゃんの家だとか。
佐藤
友達で持ってきました。だからそういうふうになったとしても起こるっちゃ起こる。
久田
今こういう時代だから、こういうかたちになってるだけで、多分また別の時代だったら別のかたちになってるし、その時代に合わせた考え方とか、逆に相手の攻撃方法というのは知っておく必要があるよね。
毛受
方法を知っておくっていうのはすごく大事ですよね。じゃないと、守るすべがわからないので。こういうことがあるんだっていうことを、私も本当に知らなかったので、ダークウェブっていう言葉自体もわからないし、もちろんフィッシング詐欺とか、そういうのはわかるんですけれども、これ、こんなにすごいことになってるんだっていうのはやっぱり気づかない。気づいて、えーじゃなくて、実際に自分の生活の中に守るっていうことを取り入れていかないといけないなっていうのわかりますね。
佐藤
それはそうだね。一回ちょっとソリューション書いてみましょうか。

TOPICS

ソリューション

佐藤
じゃあソリューション出してみましょうかね。本日はソリューション、こちらです。守ることを常識に。これしかないよね。だって、もう犯罪っつっとんだから、犯罪から身を守ることは常識でしょ。殺人から守るの常識じゃん。詐欺から守るのは常識じゃん。詐欺っていっても、いろいろあるけど。オレオレ詐欺、電話かかってきて、やばいやつ、電話かかってきたら、え?って思うのは常識だから。インターネットもそうだっていう話です。
毛受
だから、そこにそういうものがあるんだっていう危機感がない人が多いからこそ引っかかっちゃうんで。あるんだっていう、まず本当に常識として知るっていうことから大事かもしれないです。
佐藤
だって普通、家を出るとき、鍵を閉めるでしょ。それも常識じゃん。それと一緒なんだよね。メールアドレスを登録するっていうことは、メールがきたら、これメールをクリックしたら、フィッシングサイトにつながる可能性があるっていうことを常識にしとけば、これ大丈夫かな。だって、フィッシングサイト、別に踏んだから、いきなり何かが起こるわけじゃないでしょ。
久田
そこに登録しますもんね。
佐藤
踏んで、何かをまた入力しするからやばいわけだから。ログインしてくれとか、クレジットカード入力してくれとか。犯罪に巻き込まれる可能性があるよっていうことを認識するしかないね。
毛受
常識にしていくしかないんですよね。でも、本当に昔って、家に鍵をかけないっていった時代もあったじゃないですか。ちょっと田舎のほうだと、私、本当に実家であんまり鍵をかけてなかったときもあって、でも、それはもう今では非常識。だから今、この非常識を常識に変えていかないといけない時代になっているかなというのはありますね。
佐藤
便利の裏には必ず犯罪があるっていうことだね。
井戸
では来週以下の放送はこちらのとおりとなっています。次回も木曜日の夜10時にお会いしましょう。また来週もお楽しみに。
佐藤
最後までご視聴ありがとうございました。さよなら。

番組の感想をシェアしませんか?
みんなに共感を広げよう!

Facebookでシェアする

Facebookでシェアする

Xでつぶやく

Xでつぶやく

LINEで送る

LINEで送る

RECOMMEND おすすめ番組

【生成AI】生成AIがもたらす企業の課題と職業の未来!生成AI総集編

【生成AI】生成AIがもたらす企業の課題と職業の未来!生成AI総集編

2024.08.15 放送分

AIで実現するハイパーパーソナライゼーション!データドリブンなアプローチで競争力を高めるには

AIで実現するハイパーパーソナライゼーション!データドリブンなアプローチで競争力を高めるには

2024.07.04 放送分

AIエージェントがビジネスに革命をもたらす!今すぐ業務プロセスを変革して仕事の未来を拓くには

AIエージェントがビジネスに革命をもたらす!今すぐ業務プロセスを変革して仕事の未来を拓くには

2024.06.20 放送分

AIライバーはライブコマースのゲームチェンジャーとなるか?急成長する市場でビジネスチャンスを掴むには

AIライバーはライブコマースのゲームチェンジャーとなるか?急成長する市場でビジネスチャンスを掴むには

2024.05.30 放送分

もっと見る

事例を見る

各サービスの制作事例

シンプルで機能的なエントランスは、あなたのビジネスプロジェクトがスムーズに始まるようサポートします。必要な情報や案内を手短かに提供し、目的のスペースへ迅速に案内します。

事例を見る

クライアント
サービス
について
相談する
ご相談
見積もり依頼
相談する
資料ダウンロード
相談する

MAKE BUSINESS
ENTERTAINING

MAKE BUSINESS
ENTERTAINING

ビジネスを楽しく、おもしろく。

サービス 制作実績 事例紹介 メタバース開発 スタジオ ソフトウェア
番組コンテンツ 記事コンテンツ 最新情報 会社案内 お問い合わせ

採用情報Indeed|Wantedly|LINE


株式会社アートリー

株式会社アートリー

〒460-0012
名古屋市中区千代田1-1-25 第一中川ビル
1F スタジオ 2F オフィス

  • icon
  • icon
  • icon

iconNEWS LETTERARTORYの最新情報をメールで受け取る

ささやかなご質問から重要なご相談まで、
アートリーのエキスパートに
お話しください。

TEL052-684-6478 受付時間:月-金 10:00〜19:00

お問い合わせフォーム

COPYRIGHT © 2011-2026 ARTORY INC. ALL RIGHTS RESERVED.