2024年11月09日
1 ：名無し
chatGPTは相手の価値観に合わせて話す
即ち相手が求めてる思想に沿って、近い価値観の情報を集めて、都合のいい言葉を選んで帰す
一人エコーチェンバーが成立する
（偏った思想のグループが大衆的で正しい価値観だと思い込んで増長する現象）
境界知能の思い込みを無限に増幅させる側面を持つ
これ普通に危険だと思う
24/11/07 11:44 ID:TOOMQwPZ0.net
当ブログサイトはアフィリエイト広告、バナー広告を利用しています。
ChatGPTを望む思想に教育してるが
情報の検索自体がそんなかんじやもんね
理解できる自分が有用と思う情報を選択的に拾いやすくなる
俯瞰した批判的な目（先生）かおらんのはいつでも危険よ
24/11/07 11:47 ID:SKoazou90.net 6 ：名無し
>>4
それはそうなんだがchatGPTは「公平な第三者」を演じて情報収集の過程無しにいきなり結果を持ってくる分、かなり悪質だと感じる
24/11/07 11:51 ID:TOOMQwPZ0.net 8 ：名無し
>>6
過程も聞いたら出してくれるぞ
24/11/07 11:53 ID:aede8FIM0.net 11 ：名無し
>>8
いや、俺の言う過程は「何で検索すればどういうサイトが出てくるのか、どこが信用できるサイトなのか」みたいな過程をなしにいきなりAIが纏めた見解を持ってくるということ
それとはまた別の話
24/11/07 11:55 ID:TOOMQwPZ0.net 14 ：名無し
>>6
うむ
公正な第三者の集合知みたいなツラは悪質やね
堂々と偏見にまみれたなんGの方がまだ善良やわ
24/11/07 11:59 ID:SKoazou90.net 15 ：名無し
>>11
それはそれで
過程を再度質問すればよくね？
24/11/07 11:59 ID:aede8FIM0.net 18 ：名無し
>>15
俺が言ってるのは具体的な何かのやり方じゃなくて、もっと曖昧で観念的な、たとえば思想の話なんだよ
それに健常者については問題視してないよ
俺が問題視してるのは境界知能が思想犯やストーカーになる後押しをする可能性の危惧だ
24/11/07 12:07 ID:TOOMQwPZ0.net 5 ：名無し
リサーチしてみたが実際「chatGPTではこう言っていたから俺が正しい」みたいな意見をSNSでたまに見かける
中には「chatGPTに仮に問題を出させてみたら知見を褒められた」みたいなものもある
だから思想だけでなく、ストーカーの妄想の強化や自身の力量の過信や孤立に繋がる可能性もある
24/11/07 11:50 ID:TOOMQwPZ0.net 7 ：名無し
機械の保守管理をしているのだが、症状と機械の仕組みを説明したら、
原因とか、その考えに到達する前の流れまでわかっててワロタ。
それをしっかり勉強すれば、相手への説明もできる。
わからないとこは再度答えてくれる
もう授業とかいらないやんけと思ってしまう。
実務経験と経験則はいるけれども
24/11/07 11:52 ID:aede8FIM0.net 9 ：名無し
ワイのChatGPTは目茶苦茶反抗的やで
いつもワイが論破されてるわ
24/11/07 11:54 ID:8GKbjzQj0.net 10 ：名無し
もはや超賢い人と会話してるのと変わらん
議論もできる。
めっちゃ助かってる
24/11/07 11:55 ID:aede8FIM0.net 12 ：名無し
昔加湿器が加湿しない理由を聞いたことあるが、
低水位と高水位を繰り返すとか、給水槽が熱くなってるとか
の情報だしたら、メーカーのエンジニアに聞いたときと、
チャットｇｐｔが同じ答えだしてくれた。
結果は蒸気ホースの閉塞
24/11/07 11:57 ID:aede8FIM0.net 13 ：名無し
ちなみにワイと同僚はまったくその答えに到達できなかった
24/11/07 11:57 ID:aede8FIM0.net 16 ：名無し
ワイがツイッターの例のランキングサイトで、
児童ポルノがアホみたいに上位になってるのを見て、
他の動画よりも圧倒的高速で削除されているのを踏まえながら、
日本男児はかなりの確率で児童ポルノで ってるってチャットｇｐｔに
書いたんや
そしたら全力否定されたで
なんか性善説で語ってない？と思えてくる
24/11/07 12:02 ID:aede8FIM0.net 17 ：
先生ではなく、普通の人と話してる感覚で使ってる
一般人なら間違えることもあるし、話していくうちに考えもにかよる
編集元：「https://tomcat.2ch.sc/test/read.cgi/livegalileo/1730947486/」
コメント一覧 (23)
-
- 2024年11月09日 12:21
-
正しさを担保するのは使用者って事でしょ？
あれの出力自体が信用ならないのは触れば即気付けるよ -
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月09日 12:42
-
プログラミングにchatGPT使ってるけど、プログラムっていう正解があるものが多い世界でもほぼ毎回回答修正してあげてるから
質問する分野において自分のほうが時間がかかっても正しい情報にたどり着く自信がない限り回答信用しないほうがいいよ -
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月09日 12:55
-
単純な四則演算さえ間違えることあるからな
鵜呑みにするなんてとても出来ない -
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月09日 13:11
-
まあイッチの言うように大半の人間は問題ないんやろが
こういう懸念に「ワイは賢いから全く心配あらへん」つう思考になるかどうかは
それはそれで別の問題やね -
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月09日 13:13
-
win11のAIチャット色々試してたけど間違いを指摘すると
あ、そうなんだごめんね私が間違ってたよ！でさこの話題はどう？
って必ず返す
本当に間違ってるか関係なくイエスマンやるからオカルト信者がこれ使ったらやべえだろうなとは思う -
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月09日 13:14
- 別にチャットAIに限った話じゃなく頭おかしいやつは自分の拾ってきた情報だけで見たい現実を見ようとする
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月09日 13:28
- 必ず解があるものに対しては便利だと思うけど、そうでない事に対しては使いたくない
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月09日 13:48
- バチバチの差別思想出してると諌められるぞ
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月09日 13:53
-
これ思ってたわ
客観的中立的意見が欲しいのに
やけに自分寄りの裁定だなと -
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月09日 15:08
-
>>10
基本ユーザーの使った言葉に対する反応だからしゃーない -
0
ジョウ・ジャック・にしき2世
が
しました
-
-
- 2024年11月09日 14:24
-
ちゃっとじーぴーてぃー使ってる男の子見ててよく思ったのが、頭良くなったのと勘違いしてる子が多い
辞書から知識引用してるみたいなものなのに。 -
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月09日 15:58
- AIは思想じゃなくて明確に答えのある一般論を尋ねるのに使うもんだぞ
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月09日 19:11
-
完全に間違ってる情報を、さも正解の様に提示してくる事がある
正解の中に嘘が混じるのが一番怖いだろ -
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月10日 00:58
- あらかじめ回答を知ってて過程に繋げるのと、回答は知らず過程を繋げて回答へ導くのとでは頭の使い方の訓練に決定的な差が出る。世の中全ての情報がネット上にあるわけではないから前例主義に慣れてしまうと訓練不足で30歳手前でポンコツばれるからIT系の開発やってるヤツほど使わん方がええよ。
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月10日 01:14
- スカイシ—で生成AI使用比率炙り出せば無能率も炙りだせそうやな。
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月10日 04:04
-
何故こんな事になるのかの明確な答えは
「使ってほしいから」
企業は”ユーザー利用者数”が全てだから
SNSも同じ
どんなサービスも同じ
google検索も何度も何時間も検索使ってて欲しいから
ある時からわざと一発解決の個人HPの備忘録なんかは引っかからないようになったでしょ（引っかかるのはgoogleやgoogleの仲介広告や代理店からの広告出してるPV稼ぎサイトばかり）
お金になるのは利用者”数” -
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2024年11月11日 09:38
-
意識的に使おうとはしてないけど検索かけたら高確率でＡＩが回答するな最近
-
0
ジョウ・ジャック・にしき2世
が
しました
誹謗中傷な投稿内容には訴訟リスクが発生します。自己責任でお願いします。
ジョウ・ジャック・にしき2世
が
しました