왜 영어에서 LLM의 성능이 가장 좋냐면 - 특이점이 온다 마이너 갤러리

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 왜 영어에서 LLM의 성능이 가장 좋냐면

ㅇㅇ

2024.05.17 06:37:49

조회 359 추천 3 댓글 3

단순히 데이터가(그것도 *양질의*) 많아서 그렇다고 하면 안와닿을수도 있을텐데

이전에 유명했던 세종대왕 맥북 던짐 사건같을걸 예시로 들께

만약 세종대왕과 그와 연결된 조.선시대, 시대상, 한반도 역사 같은 텍스트를 촘촘하게 학습했다면

그 관련된 키워드 사이의 연관성에 대해 LLM이 알게돼 일종의 이해 비슷한걸 하는거지

아 한반도의 역사는 이렇고 조.선시대는 몇백년쯤 전이고 등등

학습된 데이터가 적다면 세종대왕은 알겠는데 어느시대 사람인지 모호하고 설사 연도로서 알더라도 정확한 시대에 대해 이해를 못하고 있다던가 하는거야

점묘화를 떠올려봐 점을 듬성듬성 찍으면 뭘 그리려고 하는지 이해할수 없지만 점을 많이 찍으면 많이 찍을수록 표현하고자 하는 대상이 명확해지는거지

영어와 한국어 학습 데이터양은 수십배가 차이가나

영어가 형성하는 월드모델이 8K 해상도라면 한국어는 기껏해야 HD 수준밖에 안된다는거지

바꿔말하면 지식의 양의 차이가 지혜의 차이와도 연결된다고 봐도 얼추 맞을거야

정확한 예시는 아니지만 대충 무슨말인지 이해할거라봐

물론 언어가 달라도 영어에서 학습했던 개념들이 한국어 생성에도 영향을 끼치기 때문에 어느정도 상향표준화가 되기는해

그러면 OAI에서 그냥 가장 좋은 영어로만 출력되게 번역 과정을 중간에 끼어넣으면 되는거 아니냐하면

뭐 최상의 성능을 위해서라면 그렇게해도돼.

그런데 한국어도 알고 일본어 아랍어 등등을 다 알고 학습한애한테 그러한 언어생성을 완전히 막아버리라고 말하는건 좀 이상하지?

고정닉 3

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
487935	일반	6일 은 아무 소스가 없었는데 왜 혼자 기대 했다가 실망 ㅋㅋ [4]	ㅇㅇ(218.154)	06.07	230	1
487934	일반	걍 어찌됐건 oai는 약속 어긴거임 [30]	ㅇㅇ(118.235)	06.07	2876	26
487933	일반	존버 915일차 [2]	alphaca	06.07	58	1
487932	일반	qwen72b 벤치마크 엄청남데	ㅇㅇ(218.154)	06.07	115	0
487931	일반	애플 개발자회까지 사만다 기다려야되네	ㅇㅇ(223.38)	06.07	59	0
487930	일반	ㅂㅅ들 좀 진득하게 기다려라 oai뜻도 모르노 [1]	ㅇㅇ(118.40)	06.07	267	0
487929	일반	와 미쳤다 6월6일 [6]	ㅇㅇ	06.07	767	5
487928	일반	념글 다시 보니 웃기긴 하노 [1]	ㅇㅇ(116.127)	06.07	229	0
487927	일반	야 그래서 여름에나오는건 맞냐?!!!	ㅇㅇ(133.106)	06.07	48	0
487926	일반	6월6일 같은 소리 말고 12일이나 기다려	적절한김대기(114.202)	06.07	142	0
487925	일반	갤주는 봐라	댜댣(118.235)	06.07	46	0
487924	일반	oai 애들이 뭔가를 올리긴 했네 [1]	ㅇㅇ(182.226)	06.07	447	0
487923	일반	그래서 뭐 나옴?	ㅇㅇ	06.07	47	0
487922	일반	무라티 누나는 저번 발표때가 이뻣지... [1]	ㅇㅇ	06.07	311	1
487921	일반	미국대선 끝나고도 안나오면 역대급 겨울 진입이냐 [2]	ㅇㅇ(175.199)	06.07	174	1
487920	일반	doesn't care	호루스의시대	06.07	107	0
487918	일반	몇주(한달 다되어감 ㅋㅋㅋ)	ㅇㅇ	06.07	109	0
487917	일반	오늘도 꿀잠충 연전연승	ㅇㅇ(118.33)	06.07	66	0
487916	일반	미라무라티 잘나온 사진	야갤학	06.07	255	0
487914	일반	it업계에서 조지호츠는 어느정도급임?? [12]	야갤학	06.07	264	0
487913	일반	GPT4O 3시간마다 질문 최대 몇개임? [5]	ㅇㅇ(183.101)	06.07	269	0
487912	일반	환상에 살았다 [1]	ㅇㅇ	06.07	281	7
487911	일반	gpt5 정배 8~9월 아니었음? [1]	ㅇㅇ	06.07	180	0
487910	일반	특붕이의 현주소 [3]	ㅇㅇ(223.38)	06.07	226	3
487909	일반	전세계 최고 영향력 눈나 외모	야갤학	06.07	319	0
487908	일반	솔직히 서울이 그렇게 좋음? [25]	ㅇㅇ(118.235)	06.07	466	0
487907	일반	그래서 숫자세기는 어떻게 됐음? [2]	ㅇㅇ(223.38)	06.07	218	0
487906	일반	4+1=5 !!	ㅇㅇ(223.38)	06.07	128	0
487905	일반	이 갤러리 오늘 새벽은 ㄹㅇ 역대급으로 추했다 [2]	ㅇㅇ(175.192)	06.07	483	2
487904	일반	이쯤에서 보는 레전드 트윗 [3]	ㅇㅇ(138.199)	06.07	416	2
487903	일반	마지막 평범한 여름 보내라니까 [1]	ㅇㅇ(58.228)	06.07	159	0
487902	일반	이젠 2045년 예측도 못 믿겠노	ㅇㅇ(218.152)	06.07	139	0
487901	일반	앰생.jpg [1]	ㅇㅇ(125.133)	06.07	297	3
487898	일반	오늘도 얀르쿤 1승!	ㅇㅇ(119.197)	06.07	148	1
487897	일반	기대컨한 나의 승리네	ㅇㅇ(39.124)	06.07	218	0
487896	일반	신간발매 이번달 25일이네	ㅇㅇ	06.07	97	0
487895	일반	낚였구나! [2]	초존도초	06.07	389	1
487894	일반	예아딱좋노	갤럭시빠	06.07	115	1
487893	일반	나 일본 특붕인데 [1]	ㅇㅇ(133.149)	06.07	180	1
487892	정보/ 정보/뉴스	오픈소스 Qwen-2 발표 [5]	ㅇㅇ(121.178)	06.07	716	9
487891	일반	도파민 금단증상 ㄹㅇ 보기 애잔하네	ㅇㅇ(223.62)	06.07	184	0
487890	일반	아직 새벽 5시가 있음	ㅇㅇ	06.07	117	0
487889	일반	보이스 출시 [3]	ㅇㅇ(211.250)	06.07	336	0
487888	일반	한국어 잘하는 중국 7b 모델이나 보구가 [4]	ㅇㅇ	06.07	266	0
487887	일반	돼지신장 이식 여성 47일만에 제거..	달나라로켓	06.07	363	3
487886	정보/ 정보/뉴스	수츠케버와 얀 레이케의 유작 논문 발표	ㅇㅇ(121.178)	06.07	244	3
487885	일반	미스ai 수준 ㄷㄷ [2]	달나라로켓	06.07	463	2
487884	일반	AI랑 역할극 슬슬 자제해야겠다	ㅇㅇ(1.237)	06.07	234	1
487883	일반	와 스타십 날개까지 녹았는데 성공한거네 ㄷㄷ	달나라로켓	06.07	199	2
487882	일반	6월 6일에 발표한다는게 이거말하는거 맞지? [6]	ㅇㅋ	06.07	633	0