海外のWikipediaとかAIが作った嘘八百が書き込まれまくってると聞く

論文が勝手に捏造されたっての最近あったね

日本は岸田元総理の偽動画の時に法整備に全く動けなかったのが痛い

「悪用したら」吊るすという法はもう有るんだから別に今まで通りで良くね
あとは締め付けを厳しくするかどうかだけじゃね

ホモビテオを朗読させるのはどうやら悪用ではないらしい
本格的な悪用をされてから法を整備するっていう状態は駄目だろ

悪用かどうか裁判をしないとわからない

生成AI使ったものですよって判別できるようにすれば大方の問題は無くなる気がするんだよな…

EUの規制だと生成AI使った表示の義務付けって感じだったかな？

クラシックの作曲家の名前でググったらよく見る肖像画じゃなくAIっぽいのが上の方にいたな…

専門家じゃないとパッと見正しく見える偽情報がネットに放流され続けるのは本当にヤバいと思う

>専門家じゃないとパッと見正しく見える偽情報がネットに放流され続けるのは本当にヤバいと思う
ネットが死んで古のメディアや専門家の価値が上がるかもしれんが糞不便にはなるな…

>生成AI使ったものですよって判別できるようにすれば大方の問題は無くなる気がするんだよな…
反AI過激派が「学習の際に著作物の盗用をしているからAI表記しても剽窃に代わりないからダメだ！！！！」って言ってくる…

>専門家じゃないとパッと見正しく見える偽情報がネットに放流され続けるのは本当にヤバいと思う
何が問題なのかわからない
じゃああなたはこの世の真実に達してるんですか？

>海外のWikipediaとかAIが作った嘘八百が書き込まれまくってると聞く
英語記事の5%くらいはAIの捏造記事だとか聞いたな
ミル貝はAIの記事作成自体はオッケーなんたけどそこに捏造が入ってら駄目でしょって色々対処はしてるらしいけど

>>生成AI使ったものですよって判別できるようにすれば大方の問題は無くなる気がするんだよな…
>反AI過激派が「学習の際に著作物の盗用をしているからAI表記しても剽窃に代わりないからダメだ！！！！」って言ってくる…
えっと…その話とこの話は関係ないんで今はやめてもらえますか

>日本は岸田元総理の偽動画の時に法整備に全く動けなかったのが痛い
AI推進派がアホほど反対したからね…

反AIってここでも工作してるのか

>専門家じゃないとパッと見正しく見える偽情報がネットに放流され続けるのは本当にヤバいと思う
別に生成AI関係なくその手の行為は昔からやっててさらに権威付けすらしてたから今更感はある

>別に生成AI関係なくその手の行為は昔からやっててさらに権威付けすらしてたから今更感はある
偽情報自体は昔から変わりないと言えば変わりないけど増える量が段違いなのと悪意じゃなく引例から作ったAIの要約がおかしいみたいな悪意なく作られた例も結構混じるのがね

>別に生成AI関係なくその手の行為は昔からやっててさらに権威付けすらしてたから今更感はある
でも作成量や流布のスピードが今までと比になってない気がするんだよな…

取り締まりより遥かに楽に生成できるからな

確かに致しました

ルール作る側も何をしたらいいかわかってなさそうだよな

>ルール作る側も何をしたらいいかわかってなさそうだよな
AIにルール作ってもらうかあ

>>別に生成AI関係なくその手の行為は昔からやっててさらに権威付けすらしてたから今更感はある
>でも作成量や流布のスピードが今までと比になってない気がするんだよな…
物量が人力の比じゃないから被害の拡大の速さがやばい

音楽の方でもAIで量産してサブスクサービスに数えきれないほどばら撒いて金儲けしてる連中が居るよ

もうAIの学習や使用は止めようが無いから成果物をどうにかするしかないんだろうとは思う
最低でも判別可能にするだけでもその情報の真偽を疑うきっかけにはなるだろうし
受け取る側が取捨選択できる様にするのが大事な気がする

危険だよななんて言われなくても絵柄コピーより先に問題になってたろ芸能人やら政治家のディープフェイク

偽情報拡大にせよAI関係なく拡がりまくってないか…？

誰でも使えるってのが良くないんよな
銃みたいに免許制にして使用目的の申請がいるくらいでもいいかもしれない

>危険だよななんて言われなくても絵柄コピーより先に問題になってたろ芸能人やら政治家のディープフェイク
最近のオタクは絵の方ばかり気にしてるから…

ディープフェイクってそんなにAI関係ありません
ハリウッド映画で顔変えてるCGがAIですか？

>ディープフェイクってそんなにAI関係ありません
>ハリウッド映画で顔変えてるCGがAIですか？
AIでディープフェイクの精度上がって被害増えそうって話普通にあるよ
https://www.sbbit.jp/article/cont1/146485

> 2023年だけでディープフェイクコンテンツは、前年比3000％も増加したという。
なそ
にん

>https://www.sbbit.jp/article/cont1/146485
>2027年には被害額6兆円超に
いやなんの被害なのこれ

海外だとAIで児ポ通報案件が激増してまもなくキャパ超えるってニュースになってたな

ディープフェイクは著作権とか肖像権に引っ掛かるから駄目だぜは分かるんだけど被害額って何

>ディープフェイクは著作権とか肖像権に引っ掛かるから駄目だぜは分かるんだけど被害額って何
顔認証のセキュリティ突破とかに使えたりその対策費用とかじゃない？

芸能人の顔使ってこの人もこの投資システムを利用してます！
な広告サイトは見たことあるけどあんな感じの詐欺による被害額だろうか
…全世界にばら撒けば６兆ぐらいいくか…

>顔認証のセキュリティ突破とかに使えたりその対策費用とかじゃない？
それを被害額として計上するの統計やら何やらめちゃめちゃになるだろ

海外だと社長の偽動画作ってビデオ会議に紛れさせて送金指示させた詐欺とか生まれてるよ
被害額37億とか
https://levtech.jp/media/article/column/oversea/detail_521/

身分詐称の詐欺そのものによる損害だろう

犯罪者への抑止のために公共の利益やイノベーションを阻害する規制は論外ですよね
自粛したところから競争を脱落しますよ

まぁちゃんと確認しなかった従業員も悪いが画面上だともはや判別つかんレベルなのか…

社長の画像ちょっと不自然ですが本物ですか？ってきけないよなあ

>コンタクトセンターを狙った詐欺による年間損失額は推定50億ドルに上るとされている。
ディープフェイクでこれどうやるんだろ

詐欺に使われるディープフェイク動画にAIが使われてて急増してる事に変わりはないけど

流石にこれにAI無関係ですってのは無理筋だろ
どうみてもAIで悪化した

>いやなんの被害なのこれ
ディープフェイク技術の進化に伴い、悪用による経済的損失も急速に拡大している。デロイトの予測によると、米国におけるディープフェイクを含む生成AI関連の詐欺被害額は、2023年の123億ドルから2027年には400億ドルに達する見込みという。
これは年平均成長率32％に相当し、4年間で被害額が3倍以上に膨れ上がる計算となる。

>まぁちゃんと確認しなかった従業員も悪いが画面上だともはや判別つかんレベルなのか…
上の記事だとリアルタイムで顔改変して声も偽装できるぐらいになってるみたいだしね…しかも学習元が社長が出演する広報動画っていう

実は「」のレスも正体はAI

社長のフリしてビデオ通話してくる案件がそんなにあるとかではなく顔も声も偽装できるって事じゃねえかな
社内ネットワークにそんなに大量の人間がいきなり乗り込んでくるのかって話だし

ディープフェイクではないが昨日のメは凄いことになってたぞ
実在人物風の生成画像をプロフ写真にしてる2024年10月作りたてのアカウント軍団が火消ししてた

火消ってなんか火種あったの？
ﾒだと規約改定の件かな

ちなみにそいつらあんまり良い生成サービス使ってないからか画像拡大すると普通に破綻しててダメだった

>米国におけるディープフェイクを含む生成AI関連の詐欺被害額は、
なんの被害…？

XのニュースはXでやれよ

実際自分の所でこんなフェイク画像が来たらどうすりゃ良いんだろう
とりあえず本人か確認する様に免許証でも提示してもらうとか？

まずフェイクと気付けないといけないわけだが…

>>米国におけるディープフェイクを含む生成AI関連の詐欺被害額は、
>なんの被害…？
AIに教えてもらってこい

やはり全世界に即使えるようにばら撒いたのがそもそもの間違いでは

>まずフェイクと気付けないといけないわけだが…
AI生成はぱっと見のクオリティが高いデマを誰でも気軽に大量生産できるってのがやばいのよな
本質的にはAIそのものの問題では無いかもしれんが現状はAIが関わるからこそ生まれてくる問題である事を否定できない

>海外だと社長の偽動画作ってビデオ会議に紛れさせて送金指示させた詐欺とか生まれてるよ
よくこんな悪事思いつくなぁ

本質的にAIの問題だよ
利活用に制限がないから起こるんだし

より浸透すればネットで見れる情報を信用しなくなるだけじゃないかなとも思う

便利なものは犯罪に使われる

本物と区別のつかない偽物を作れるわけでしょ？普通に怖い
何らかの区別が出来るようにしてほしい

>やはり全世界に即使えるようにばら撒いたのがそもそもの間違いでは
善人より悪人のほうが最新技術の性能を引き出す意欲が高いという

>より浸透すればネットで見れる情報を信用しなくなるだけじゃないかなとも思う
AI生成が出回る前からクソまとめ記事だのソースはWikipediaだの散々っぱら問題になってたのに人類は反省してないんだからそれは絶対にない

対面の重要性が増すが犯罪者は既にこの対策もしているのだろう

犯罪はまさに直接利益を出せる方法なので
犯罪用が進化が速くなる必然性があるな

バフェット氏もAIによる詐欺が史上最高の成長産業になるとか言うレベルだし

今の技術で法律考えても施行する時には進歩が早すぎて意味ないと思う

エグいコラが気軽にポンとできるの怖いなぁとは思う
これが俺の学生時代にあれば…

あらゆるものの証拠能力が疑わしくなるのはめちゃくちゃ怖いと思う

自分が犯罪してるフェイクなんかを証拠に不当逮捕とかされたらマジで洒落にならん…

>>危険だよななんて言われなくても絵柄コピーより先に問題になってたろ芸能人やら政治家のディープフェイク
>最近のオタクは絵の方ばかり気にしてるから…
それはオタクのほうしか見てないだけだろう

ネット銀行の口座開設で免許証の写真送れってやつ使うとき最近は厚みも写真で送れって求められるな
平面画像なら画像生成で簡単に作れるから

Google検索して一番上に出てくるAIの回答が嘘含まれてるんですけお…
年代近い偉人を勝手に夫婦にして子供が12人いますとか言われても

>本質的にAIの問題だよ
>利活用に制限がないから起こるんだし
社会性や人間強度が低いやつほど依存し悪用に走らせる悪魔のツール

お隣の国だとディープフェイクポルノの作成で
400人以上逮捕者だして8割が10代っていうニュースあったな

まあ新しいもののほうが悪用しやすいからな

捏ち上げの脅迫材料としても強すぎるからな…

もうChatGPTないと仕事できないよぉ

結局言うほど問題起きてなくてイラストがどうだのどうでもいいことで殴り合ってて日本は平和だ

当時内閣総理大臣のフェイク動画作られて大した問題になってないのもそれはそれでどうかなとは思うが…

案の定ロシアや中国のスパイとか悪用しまくってる

ヒラリーの顔で遊んでた「」が言えたことか？

顔認証は元々ザルだし

>「悪用したら」吊るすという法はもう有るんだから別に今まで通りで良くね
>あとは締め付けを厳しくするかどうかだけじゃね
まあ悪用されたら危険なものが悪用されまくったら締め付けられるのは歴史から見て当然だから締め付けは厳しくなるだろうな

AI普及してももっともらしいゴミ情報とそれに騙されて二次被害を広げるバカが増えただけだったな
こんなの技術革新じゃない

>>本質的にAIの問題だよ
>>利活用に制限がないから起こるんだし
>社会性や人間強度が低いやつほど依存し悪用に走らせる悪魔のツール
でも制限しろっていわれても具体的にどう制限すればいいのかわからん…

企業スパイなら野獣先輩のコラの方が近いだろ

>当時内閣総理大臣のフェイク動画作られて大した問題になってないのもそれはそれでどうかなとは思うが…
内容が余りにもふざけ過ぎててあからさまにフェイクとわかるからあれくらいなら笑える範疇だし

>ヒラリーの顔で遊んでた「」が言えたことか？
お外で「」と同レベルのやつが大量に増えたらヤバイだろって話じゃん

顔認証も指紋もAIとか関係なく写真で突破できない？

その笑える範疇で済ませる日本がおかしいのでは…？

>内容が余りにもふざけ過ぎててあからさまにフェイクとわかるからあれくらいなら笑える範疇だし
それ日本以外の国でも言えんの？
って思ったけどあれくらいなら逮捕くらいで済むんかな

>お外で「」と同レベルのやつが大量に増えたらヤバイだろって話じゃん
全世界いもげ化してるとか嫌だな

wikipediaの方がまだましなクオリティのものを出されてもとは思うが
そこも荒らすために使われてるということなら既存のもののクオリティを下げてAIを使わそうとしてそうと思ってしまう