Google

【AI】ChatGPTで資料作成、実在しない判例引用 米国の弁護士



1: ムヒタ ★ 2023/05/31(水) 09:07:39.27 ID:5DugOH3E
【ニューヨーク=吉田圭織】米東部ニューヨーク州の弁護士が審理中の民事訴訟で資料作成に米オープンAIの生成AI「Chat(チャット)GPT」を利用した結果、存在しない判例を引用してしまったことが問題となっている。米紙ニューヨーク・タイムズなどが報じた。

問題が起きたのは、米ニューヨーク行きのフライトで食事配膳用カートが当たってけがをしたとする男性客が南米コロンビアのアビアンカ航空を訴えた訴訟だった。

資料で引用された判例が見つからなかったため、ニューヨーク州の連邦裁判所のカステル裁判官が確認したところ、弁護士がChatGPTを使っていたことが発覚した。弁護士は資料に6件のデルタ航空やユナイテッド航空などが関連しているとされた実在しない判例を引用していた。

同裁判官は「インチキな引用を使ったインチキな司法判断が記述された資料が提出された」と指摘するとともに「前例のない状況に置かれている」と説明した。弁護士の懲戒をするかどうかを判断するために6月8日に審理を開く予定だ。

5月24日に署名した供述書で弁護士は「非常に後悔しており、今後は正当性を検証せずに(ChatGPTは)絶対に利用しない」と伝えた。「情報源として信頼できないことが明らかになった」と書いた。供述書には弁護士が判例について情報の出どころなどをChatGPTに確認するやり取りも含まれた。
2023年5月31日 6:54
https://www.nikkei.com/article/DGXZQOGN30E450Q3A530C2000000/

15: 名刺は切らしておりまして 2023/05/31(水) 09:50:23.77 ID:RnRU4NBZ
>>1
AIで弁護士いらなくなるとか言ってるやついるけど
AIの判断が信用できるかを誰が判断するのかって話だよな
本人訴訟でAI書面出したらそれなりの形にはなるだろうが中身はチェックできないだろ

17: 名刺は切らしておりまして 2023/05/31(水) 09:54:29.61 ID:9wCIbFn6
>>15
それを判断するために裁判官がいるんじゃないか

23: 名刺は切らしておりまして 2023/05/31(水) 10:03:01.37 ID:RnRU4NBZ
>>17
書面に嘘書いて負けてもいいなら構わんが

22: 名刺は切らしておりまして 2023/05/31(水) 10:01:10.77 ID:PYwtDYa7
>>15
裁判で判断するのは裁判官の仕事じゃね?

28: 名刺は切らしておりまして 2023/05/31(水) 10:18:34.72 ID:119B9kXg
>>1
> 「非常に後悔しており、今後は正当性を検証せずに(ChatGPTは)絶対に利用しない」と伝えた。
>「情報源として信頼できないことが明らかになった」

は?w
ある種の黎明期は当たり前だって、考えないんだなぁwww

AI学習の仕組みを理解してれば、すぐわかると思うけど。
雑魚は、新技術使うなよ

29: 名刺は切らしておりまして 2023/05/31(水) 10:19:12.21 ID:rsB86AFL
>>28
おまえが情報漏らしたんだろ、キリスト気狂い

30: 名刺は切らしておりまして 2023/05/31(水) 10:20:16.69 ID:119B9kXg
>>29
病院へどーぞ。
君精神病んでね?

32: 名刺は切らしておりまして 2023/05/31(水) 10:23:59.38 ID:rsB86AFL
>>30
おまえのせいだろ、盗人
イスラムにでも関係すると都合がわるいんだろ
アリババサーバのことで妄想して
俺が中国でカオリがイスラムで関係すると駄目だとか
むちゃくちゃ言ってたよな、この大馬鹿、禿げ、ちび

57: 名刺は切らしておりまして 2023/05/31(水) 15:15:35.78 ID:5V6yduRJ
>>1
不確実性のカテゴリの技術で裁判とかのクリティカルな案件を任せるとは
まあ素人は素人らしいミスをするって訳だな
弁護士がお金を払って相談を受ける仕事をしていながら
信頼に足る技術なのか金を払って調べなかったのは分野が違えど雑魚杉だな

64: 名刺は切らしておりまして 2023/05/31(水) 17:02:43.11 ID:jAnTIm+G
>>1
今後も何も資格剥奪しろよ

67: 名刺は切らしておりまして 2023/05/31(水) 18:42:39.02 ID:QGLZH7sS
>>1
米NY州の弁護士、ChatGPTで資料作成、実在しない判例引用 [おっさん友の会★]
tps://asahi.5ch.net/test/read.cgi/newsplus/1685513622/

2: 名刺は切らしておりまして 2023/05/31(水) 09:18:35.15 ID:g+N4znlN
だから判決までChatGPT使えよ
人間は間違える葦でアル

87: 名刺は切らしておりまして 2023/06/01(木) 22:40:18.17 ID:pLh1rlPx
>>2
チャットGPTを作ってるのも人間
しかもゴリゴリの私企業でビジネスの都合で検閲してたりする

3: 名刺は切らしておりまして 2023/05/31(水) 09:18:40.43 ID:k78QY+St
手抜き懲戒

4: 名刺は切らしておりまして 2023/05/31(水) 09:21:22.97 ID:2bMmEKaU
平気でうそ情報混ぜるのなんなんだろうな、知らないのに無理やり答えるように教育されてんのか

60: 名刺は切らしておりまして 2023/05/31(水) 15:55:24.06 ID:duizdEib
>>4
こいつは知らないことを知らないと言えないクズだよ
周りにもいるだろそういうやつ

65: 名刺は切らしておりまして 2023/05/31(水) 17:16:14.91 ID:5V6yduRJ
>>60
1<=k<=nとして
与えられたn個の情報(x1:ys1,x2:ys2,..., xk:ysk,... xn:ysn)を元に
そこに無い情報x(n+1)に対してys(n+1)を推定して返すためのプログラムだよ

既知の入力されたx1からxnの情報を元に正しくys1からysnを返すのは
初歩中の初歩のプログラム

68: 名刺は切らしておりまして 2023/05/31(水) 19:02:07.49 ID:M+33K5uQ
>>4
確率的に高いの繋げてるだけだから仕方ない

5: 名刺は切らしておりまして 2023/05/31(水) 09:25:52.71 ID:klXY83De
知ったかで意味不明な情報載せたりするから完全にAI頼りにするのはまだ早い

8: 名刺は切らしておりまして 2023/05/31(水) 09:31:04.24 ID:VNDy2VFO
>>5
その通り。完全にAIに頼れるようになるには後3ヶ月は掛かるだろう。100%完璧に頼れるようになるのは半年後だな。

6: 名刺は切らしておりまして 2023/05/31(水) 09:29:10.67 ID:YY3AGi3l
これ自体茶番じゃないの?
多分再現できないとか
あえてニセの判例を読み込ませてある

13: 名刺は切らしておりまして 2023/05/31(水) 09:46:45.29 ID:O3qIX46n
>>6
本物の判例を読み込ませているんだろうけど、
それから判例を生成してしまうのだろうな。
絵や小説、写真の生成と同じように。
フィクション小説は生成すると人間に喜ばれるのに、
なぜ判例はそれらしいものを生成しちゃだめなんだろう?
って子供のような純真な心で思っているのかもしれないな。

21: 名刺は切らしておりまして 2023/05/31(水) 09:59:03.91 ID:PYwtDYa7
>>6
ChatGPTはトークに特化したGPTだからな
業務に使うならそれに特化したGPTを使うべき

7: 名刺は切らしておりまして 2023/05/31(水) 09:30:32.98 ID:jLJz8MOL
進化

9: 名刺は切らしておりまして 2023/05/31(水) 09:32:52.28 ID:BRYyt8Wk
その前に言語の壁は解消されないのか?
なんで何十年たってもガバ翻訳なんだよ
リアルタイムで完璧な翻訳ぐらいできないの?言ってる内容同じで言語が違うだけでしょ??

12: 名刺は切らしておりまして 2023/05/31(水) 09:41:17.20 ID:IpGSiHRw
>>9
リアルタイムで完璧な翻訳ww
翻訳の時点で完璧にはならないんだよな...

45: 名刺は切らしておりまして 2023/05/31(水) 12:32:00.50 ID:73Lj8FFN
>>9
言語が違う時点で「言ってる内容同じ」ではないんだなあ

51: 名刺は切らしておりまして 2023/05/31(水) 13:34:42.83 ID:TjtIhxDe
>>45
翻訳がa=bなら良かったけどa≒bだもんな

10: 名刺は切らしておりまして 2023/05/31(水) 09:39:16.29 ID:O3qIX46n
絵や小説は、元にしたものを混ぜて生成しろと言われているのに、
判例、法律、定理なんかは
それらしいのを混ぜて生成しちゃだめなのかい?
ってAIに逆質問されそうだな。

11: 名刺は切らしておりまして 2023/05/31(水) 09:40:22.07 ID:46HNdvT2
潮の吹かせ方を訊いたら
「満潮と干潮をよく見極め…」
などと教えていただきました。

14: 名刺は切らしておりまして 2023/05/31(水) 09:49:17.97 ID:y43+1/6T
もはやAI汚染の様相と言えよう

16: 名刺は切らしておりまして 2023/05/31(水) 09:51:27.68 ID:rsB86AFL
しまいのこの記事も嘘だな

イギリスではよくあることだ、てかみんなイギリスだな

18: 名刺は切らしておりまして 2023/05/31(水) 09:56:33.83 ID:rsB86AFL
なんで航空会社の事例が無いってことになったんだろね
SISにでも盗まれたのかね

19: 名刺は切らしておりまして 2023/05/31(水) 09:57:25.33 ID:PYwtDYa7
ChatGPTって言いたいだけだろ
業務で使うなら別のGPT使うわ

20: 名刺は切らしておりまして 2023/05/31(水) 09:58:32.39 ID:rsB86AFL
この記事そのもんがGPTで書かれたんでは

24: 名刺は切らしておりまして 2023/05/31(水) 10:07:36.93 ID:VXlANhbU
こんなん逮捕だろ

25: 名刺は切らしておりまして 2023/05/31(水) 10:11:47.83 ID:SrbFZlsM
これ日本でも起こりそう
てかchatgdpは民法の条文ですらデタラメだからな
いまのとこ法律系は使いものにならんわ

26: 名刺は切らしておりまして 2023/05/31(水) 10:12:40.78 ID:VlYddwUR
誤訳の多い自動翻訳と同じ
分かる人でないと使えない

27: 名刺は切らしておりまして 2023/05/31(水) 10:13:13.75 ID:rsB86AFL
うそ記事

俺が大馬鹿気狂いのキリスト気狂いに
一言も言っていない、っていうのは航空自衛隊がよく使う
と指摘しただけで書いた大嘘記事

凡例はあるけどSISが盗んで機密にしてる

31: 名刺は切らしておりまして 2023/05/31(水) 10:22:19.80 ID:tdBbh+iF
平気で嘘を吐くのがいいんじゃないか
直したら面白くなくなる

33: 名刺は切らしておりまして 2023/05/31(水) 10:27:51.11 ID:TLB0yvy/
プロフェッショナル業でも、こういうミス起こるよね。黎明期は。

34: 名刺は切らしておりまして 2023/05/31(水) 10:37:58.48 ID:/fwdAhAv
まじで嘘つくよな
チャットGPTって
あれは早く直してほしい

35: 名刺は切らしておりまして 2023/05/31(水) 10:38:00.74 ID:aLhTA0R9
【朗報】岸田翔太郎くん、TIMES誌デビュー🤓誇らしい!😤 [331991555]
https://greta.5ch.net/test/read.cgi/poverty/1685496785/

WWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWW

36: 名刺は切らしておりまして 2023/05/31(水) 10:57:32.97 ID:Vv8tPNXB
人間側のミスだな
判例が存在するか調べないといけなかった

37: 名刺は切らしておりまして 2023/05/31(水) 11:19:15.14 ID:sTUnp7mZ
ChatGPTなんて間違いだらけ

47: 名刺は切らしておりまして 2023/05/31(水) 12:43:03.81 ID:HmTB6jU5
>>37
これは人間がバカなだけだろw

38: 名刺は切らしておりまして 2023/05/31(水) 12:07:31.11 ID:0bDOqiic
馬鹿な弁護士もいるもんだな
パラリーガルに戻ってやり直せ

39: 名刺は切らしておりまして 2023/05/31(水) 12:11:09.69 ID:DK0k86cf
それでも僕はやってない!
~AI裁判~

40: 名刺は切らしておりまして 2023/05/31(水) 12:18:05.92 ID:1AHl+w8H
最終確認してなかったのか?
バカ弁護士だな

41: 名刺は切らしておりまして 2023/05/31(水) 12:20:44.18 ID:rsB86AFL
警察はいつも嘘をつく。捜査中に嘘をつくことは法的に認められている。

だそうだ

42: 名刺は切らしておりまして 2023/05/31(水) 12:23:56.48 ID:pnHUWy55
こんな資料までAIもう弁護士いらないじゃん

43: 名刺は切らしておりまして 2023/05/31(水) 12:25:00.65 ID:TjtIhxDe
知ってた

44: 名刺は切らしておりまして 2023/05/31(水) 12:25:32.32 ID:TjtIhxDe
bingならちゃんと出典のリンクまで出るのに

46: 名刺は切らしておりまして 2023/05/31(水) 12:33:05.91 ID:Ty7RYOpZ
ボッキデータの悪しき進化のれい

48: 名刺は切らしておりまして 2023/05/31(水) 12:45:56.24 ID:2bMmEKaU
ぱっと見、正解に見えるけど実際はきちんと調べなおさないと使えない結果が出てくるとか
余計にめんどくさくない?

49: 名刺は切らしておりまして 2023/05/31(水) 12:57:27.39 ID:t3KaDX6U
資格剥奪でいいよ
確認するのが最低ライン

50: 名刺は切らしておりまして 2023/05/31(水) 13:25:52.55 ID:vwKQ/5sy
チャット GPT から流用しようが 書籍から流用しようが 提出した弁護士クビだろ

52: 名刺は切らしておりまして 2023/05/31(水) 14:12:32.60 ID:aICKsZna
chatGPTは部下と思って仕事すると捗る

53: 名刺は切らしておりまして 2023/05/31(水) 14:39:42.42 ID:ij6VjPrJ
条件設定の問題じゃないの?
実際の判例から~等の指示が必要
使い方分かってないのに使ったことが問題ってだけ
司法専用モデルとか細分化されていくんだろうな

54: 名刺は切らしておりまして 2023/05/31(水) 15:04:53.59 ID:5rh6NDSj
日本の場合、判例の電子化とか全く進んでなさそう
知らんけど

55: 名刺は切らしておりまして 2023/05/31(水) 15:06:26.23 ID:5rh6NDSj
AIで世界一騒いでるのが日本
でも日本の情報のデジタル化って遅れてるだろ
なのに大騒ぎしてバカみたい

56: 名刺は切らしておりまして 2023/05/31(水) 15:10:18.89 ID:/8GUHfVT
これ裁判所がChatGPTでチェックしてたら嘘が本当になるってことか?

58: 名刺は切らしておりまして 2023/05/31(水) 15:22:16.87 ID:Bf1L3wNZ
俺も使ってみたけど結構嘘多いぞ。

59: 名刺は切らしておりまして 2023/05/31(水) 15:30:18.44 ID:Bvl71izW
chatGPTは一部別の世界線とリンクしてるからな
実在しない俳優やら書籍やら引っ張ってくるのはその影響

61: 名刺は切らしておりまして 2023/05/31(水) 15:59:55.70 ID:TjtIhxDe
chat GPTの回答はGPT4でかなりマトモになったとか言う人いるけど、民明書房と言われるレベルの作文しちゃう時点でアウトやで

62: 名刺は切らしておりまして 2023/05/31(水) 16:26:05.80 ID:B2RRG2EK
インターネットアーカイブがAI学習のために高負荷かけられてダウンしたんだっけ
ネットの終焉て感じだな

核兵器と同列に語られるようになってきたし
そのうち、昔はネットというものがあってなあとかいう時代になりそう

63: 名刺は切らしておりまして 2023/05/31(水) 16:42:59.14 ID:mZny3U2v
「『AI』というのはですね、嘘吐きの言葉なんです。途中で止めてしまうからAIになるんですよ」

66: 名刺は切らしておりまして 2023/05/31(水) 18:07:16.45 ID:g/ZbrVCi
こんなレベルで全世界で規制強化を訴える開発者、違和感あるなあ

91: 新規スレ立て人募集 社説+の募集スレまで 2023/06/02(金) 17:14:05.67 ID:UXc2AVPW
>>66
他のやつは開発やめろ!

69: 名刺は切らしておりまして 2023/05/31(水) 19:06:36.25 ID:HlrAdHhK
チャット君はポンコツ

70: 名刺は切らしておりまして 2023/05/31(水) 19:16:43.34 ID:9Hl/pG9L
 
ChatGTPの今の実力なんざこの程度
i.imgur.com/CCe63MQ.jpg
バカすぎててんで使えねーw

しかも
核爆弾→核分裂→核融合について聞いた後「核家族」について聞いてみると!
i.imgur.com/UWRzftk.jpg
無惨な程w使い物にならねーwww

懐かしマンガ板では有名なこれも!
i.imgur.com/9aGhIZe.jpg
糞ヒドすぎるw

弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明
egg.5ch.net/test/read.cgi/scienceplus/1685361674/
おいおい!
これなんざインチキ出鱈目にも程があるぞ!

こんなどーしよーもねーシロモノなのに金科玉条のごとく崇める連中こそが、真の意味でのIT音痴。
「データウェアハウス」から始まり「データマイニング」「ビッグデータ」「web.2.0」などなど、
IT業界ならではの煽りステマあるあるで、
どーせ今も株屋と電通・博報堂が騒いでるだけだろーけどな。
政府が補助金をつけた、タクシー流しや出前の予測の実証実験でも失敗しまくってるし(苦笑)
 

71: 名刺は切らしておりまして 2023/05/31(水) 19:35:26.92 ID:DK0k86cf
Chat-GPT「判例は凡例であり間違いではありません」

72: 名刺は切らしておりまして 2023/05/31(水) 19:40:59.49 ID:oN/sDHz9
大規模言語モデルってようは蓄えた情報で自然言語処理をしているだけで、物事が正しいかどうかなんて判断の基準になってないんでしょ
実際正しいかどうかを正確にモデル化することなんて出来ないだろうし

73: 名刺は切らしておりまして 2023/05/31(水) 19:54:38.48 ID:SGuTLkUd
人工知能って段階じゃないのでは

74: 名刺は切らしておりまして 2023/05/31(水) 20:04:08.46 ID:kXJTmrnS
弁護士の仕事って秘匿義務無いの?
ネットに訴訟に関わる情報流すのはおkなの?

その上で、自分の名前で提出しようとしてる資料の内容なんて確認しないの?

弁護士の仕事ってそんなもん?

77: 名刺は切らしておりまして 2023/05/31(水) 20:27:24.54 ID:5V6yduRJ
>>74
刑法第134条
医師、薬剤師、医薬品販売業者、助産師、弁護士、弁護人 (中略) 守秘義務守れ

75: 名刺は切らしておりまして 2023/05/31(水) 20:16:26.33 ID:qa3pObYc

76: 名刺は切らしておりまして 2023/05/31(水) 20:16:46.11 ID:uCOzBPDU
現状は完全にaiに頼れないのは周知の事実。aiに骨子作ってもらって、それを修正していけば良い。一から作るより早く出来るものが多いのでは。完全に頼りたいなら10年待てば良い。

78: 名刺は切らしておりまして 2023/05/31(水) 21:23:53.57 ID:qlg7oa1z
ネガティブな案件で上司への報告書つくるのに役立ったわ
何かしらアラ探して再提出させるタイプの奴だけど、一発で通ってうれしい
しかも上司もその報告に基づいて関連部署に対応指示出したりしていた
GPT様様だよ

79: 名刺は切らしておりまして 2023/05/31(水) 21:42:29.68 ID:Bf1L3wNZ
>>78
めんどい文書作成には使えるかもな
もちろん人間がチェックしなければならないが。

80: 名刺は切らしておりまして 2023/05/31(水) 23:09:39.56 ID:wFkvni/X
テキトーなことでも自信満々に言うやつですよ
って評判の人が作った資料をそのまま使わんだろう

81: 名刺は切らしておりまして 2023/05/31(水) 23:26:59.03 ID:swmI8BUR
ChatGPTは使いこなせる人間ありきのシステムよ
間違ってないのに嘘の指摘したら「申し訳ございません」って間違った内容を正解として出力してくる

例えば初代iPhoneの発売日を聞いてみ?正解返ってくるけど、違う〇月〇日だ、違う〇月△日だ、違う△月☓日だってころころ変えても一切の反論無く受け止めるからね

82: 名刺は切らしておりまして 2023/05/31(水) 23:56:46.39 ID:poBVswqN
3.5使うなよ貧乏人

83: 名刺は切らしておりまして 2023/06/01(木) 02:59:36.21 ID:PTI5GAul
統失の独り言と同じようなもんか
AI君もまだまだだな

84: 名刺は切らしておりまして 2023/06/01(木) 06:07:37.11 ID:VsZI2hmd
このスレを見てもChatGPTはチャット用にカスタマイズされたトーク向けGPTだという事を理解してない奴が多過ぎるな

85: 名刺は切らしておりまして 2023/06/01(木) 06:33:23.58 ID:N5xX8XBF
AIは部下
使うには指示する能力とでてきたものを見極める能力が必要

86: 名刺は切らしておりまして 2023/06/01(木) 12:58:06.01 ID:RMkr5dxX
このスレAIいるだろ

88: 名刺は切らしておりまして 2023/06/01(木) 23:18:05.73 ID:RPp5iU26
 
ChatGTPの今の実力なんざこの程度
i.imgur.com/CCe63MQ.jpg
バカすぎててんで使えねーw

しかも
核爆弾→核分裂→核融合について聞いた後「核家族」について聞いてみると!
i.imgur.com/UWRzftk.jpg
無惨な程w使い物にならねーwww

懐かしマンガ板で有名なのがこれ!
i.imgur.com/9aGhIZe.jpg
残酷すぎるw

弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明
egg.5ch.net/test/read.cgi/scienceplus/1685361674/
おいおい!
これなんざインチキ出鱈目にも程があるぞ!

こんなどーしよーもねーシロモノなのに金科玉条のごとく崇める連中こそが、真の意味でのIT音痴。
政府が補助金をつけた、タクシー流しや出前の予測の実証実験事業も失敗しまくってるしな(苦笑)

「意思決定支援システム」「第4世代言語」から始まり、
「データウェアハウス」「データマイニング」「ビッグデータ」「web.2.0」など、これまでも何度も繰り返されてきたのが、
IT業界と欧米金融屋がタッグを組んでの煽りステマ。
一時環境ビジネスへ重点シフトしたが、尻つぼみで株価バブルを虚演出来なくなり、
また最近ITへ戻ってきやがった。
 

89: 名刺は切らしておりまして 2023/06/02(金) 07:17:40.69 ID:E450fkTG
よくある勘違い
AIがリアルタイムでDBから検索しているとでも
文字が全部数百億のパラメータとして埋め込まれてるんだよ
ほんの0.00001ベクトルの計算がズレただけで911が311になる

90: 名刺は切らしておりまして 2023/06/02(金) 07:46:27.80 ID:E450fkTG
リスクは増す
文章が長いほど
どんなに正答率を高めようと
1ワード/1文字単位で予測するから
一旦間違うと自己回帰によって誤差が増す

92: 新規スレ立て人募集 社説+の募集スレまで 2023/06/02(金) 18:49:11.43 ID:fk7S3cP2
従軍慰安婦について、chatGPTに聞いてみた。

93: 新規スレ立て人募集 社説+の募集スレまで 2023/06/02(金) 19:41:52.78 ID:fyEShMxJ
大雨だが、屋外のパレットを中にしまうべきですか?
現実の上司→常識だろ馬鹿かお前は
GPT→

もはや勝負になりません。私のような工場作業員にもGPT様は救世主ですわ

引用元: ・【AI】ChatGPTで資料作成、実在しない判例引用 米国の弁護士 [ムヒタ★]

こんな記事も読まれてます

[wp-rss-aggregator template="wprss_feed_template-737"]

-Google