왜 영어에서 LLM의 성능이 가장 좋냐면 - 특이점이 온다 마이너 갤러리

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 왜 영어에서 LLM의 성능이 가장 좋냐면

ㅇㅇ

2024.05.17 06:37:49

조회 353 추천 3 댓글 3

단순히 데이터가(그것도 *양질의*) 많아서 그렇다고 하면 안와닿을수도 있을텐데

이전에 유명했던 세종대왕 맥북 던짐 사건같을걸 예시로 들께

만약 세종대왕과 그와 연결된 조.선시대, 시대상, 한반도 역사 같은 텍스트를 촘촘하게 학습했다면

그 관련된 키워드 사이의 연관성에 대해 LLM이 알게돼 일종의 이해 비슷한걸 하는거지

아 한반도의 역사는 이렇고 조.선시대는 몇백년쯤 전이고 등등

학습된 데이터가 적다면 세종대왕은 알겠는데 어느시대 사람인지 모호하고 설사 연도로서 알더라도 정확한 시대에 대해 이해를 못하고 있다던가 하는거야

점묘화를 떠올려봐 점을 듬성듬성 찍으면 뭘 그리려고 하는지 이해할수 없지만 점을 많이 찍으면 많이 찍을수록 표현하고자 하는 대상이 명확해지는거지

영어와 한국어 학습 데이터양은 수십배가 차이가나

영어가 형성하는 월드모델이 8K 해상도라면 한국어는 기껏해야 HD 수준밖에 안된다는거지

바꿔말하면 지식의 양의 차이가 지혜의 차이와도 연결된다고 봐도 얼추 맞을거야

정확한 예시는 아니지만 대충 무슨말인지 이해할거라봐

물론 언어가 달라도 영어에서 학습했던 개념들이 한국어 생성에도 영향을 끼치기 때문에 어느정도 상향표준화가 되기는해

그러면 OAI에서 그냥 가장 좋은 영어로만 출력되게 번역 과정을 중간에 끼어넣으면 되는거 아니냐하면

뭐 최상의 성능을 위해서라면 그렇게해도돼.

그런데 한국어도 알고 일본어 아랍어 등등을 다 알고 학습한애한테 그러한 언어생성을 완전히 막아버리라고 말하는건 좀 이상하지?

고정닉 3

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3134]	*특갤용*	23.08.06	39881	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [2]	*부패하는유전자!!!*	24.03.06	2701	2
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7415	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13588	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	9080	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8593	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9311	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	8202	34
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	22945	33
487527	일반	우리나라 청소년 8명 중 1명은 동성애자 [1]	ㅇㅇ(218.147)	18:32	22	0
487526	일반	알트만의 여동생에 대해 알아보자 [1]	ㅇㅇ	18:31	38	0
487524	일반	난 알트먼믿는다 [2]	ㅇㅇ(112.165)	18:28	41	0
487523	일반	여동생이 존코너인가	ㅇㅇ(125.128)	18:27	29	0
487522	일반	새삼 삶이란 정말 기구하다는걸 느낌	ㅇㅇ	18:26	41	0
487521	일반	알트만에게 강X당한 여성이라니 [1]	ㅇㅇ(163.152)	18:25	77	0
487520	일반	알트먼 동생이 뭘 하든 자기맘인데 마약하려고 [3]	ㅇㅇ(218.150)	18:25	59	0
487519	일반	알트만이 여동생 포기한 점에서 더 믿음이 감	ㅇㅇ	18:25	49	0
487518	일반	알트만 씹게이라 살았노	ㅇㅇ(118.40)	18:24	41	0
487517	정보/ 정보/뉴스	레오폴드 SITUATIONAL AWARENESS 요약 [9]	다이아몬드핸드	18:23	95	6
487516	일반	알트만 여동생 ㄹㅇ 골때림 [4]	ㅇㅇ(59.6)	18:20	158	2
487515	일반	솔직히 지금 트윗들 다 틀렸지	ㅇㅇ(59.6)	18:16	58	0
487514	일반	딱 59년하도도 4개월 24일 17시간 45분 남았네 [1]	ㅇㅇ(14.38)	18:15	59	0
487513	일반	지금 VPN으로 계속 차단당해도 오는 놈이 있음 [1]	ㅇㅇ(163.152)	18:15	48	0
487512	일반	출/산장려정책이러는데 [13]	ㅇㅇ(112.165)	18:13	58	0
487511	일반	근데 그런 사람들 흔함 [1]	ㅇㅇ	18:10	58	0
487510	일반	자-지 [1]	ㅇㅇ(211.197)	18:07	32	0
487509	일반	올트먼의 아픈 손가락..억만장자의 여동생은 노숙자 [22]	ㅇㅇ	18:06	266	0
487508	일반	지금이 1982라는건 희소식인 듯 [1]	Leopard	18:06	101	0
487507	일반	노래 추천해서 유튜브 플레이리스트 못만듬?	ㅇㅇ(1.226)	18:06	12	0
487506	정보/ 정보/뉴스	스태빌리티, '음향효과' 생성 AI 출시..."47초 샘플 생성"	ㅇㅇ	18:04	82	1
487505	일반	걍 2008 금융위기 이후로 한국사회가 지금처럼 변함	ㅇㅇ(223.38)	18:03	61	0
487504	일반	쇼케이스 에서 보여줬던 단일신경망의 미친속도는	ㅇㅇ(221.167)	18:01	57	0
487503	일반	중국어번역 힘드네 [2]	ㅇㅇ(1.252)	17:59	49	0
487502	일반	모든 찌라시떡밥 자기 입맛대로 해석해서 행복회로 존나돌리는 [2]	ㅇㅇ(133.106)	17:57	87	2
487499	일반	너네는 2020년하고 지금하고 코로나빼면 차이크다 생각함? [6]	ㅇㅇ(121.139)	17:53	83	0
487498	일반	솔직히 2020년대 극초반하고 지금하고 유의미한 차이가 있는듯 [6]	ㅇㅇ(121.139)	17:50	97	0
487497	일반	근데 역노화 나와도 한국은 출san장려 계속 유지해야함... [11]	ㅇㅇ	17:49	122	0
487496	일반	특이점까지 8시간 남았다 ㅅㅅ [2]	ㅇㅇ(133.106)	17:48	91	0
487495	일반	파딱 슬슬 준비하자 [2]	ㅇㅇ	17:46	143	0
487494	일반	내일 OAI가 뭔가 발표를 하기는 하는걸까	천사다천사	17:41	74	0
487493	일반	보이스 모드 안푸는 이유가 뭘까 [6]	이세이미야케	17:36	229	0
487492	일반	ㅌㅇㅈ ㅈㅂ 230ㅇㅊ [2]	포스트휴먼.	17:30	69	0
487491	일반	내일 새벽 발표는 gpt 검색이겠네	ㅇㅇ(218.50)	17:25	94	0
487490	일반	아니 요새 뭔가 특갤에 빌런이 ㅈㄴ 많아진 것 같은데 기분 탓임? [2]	초2때부터야동본놈(116.36)	17:23	117	0
487488	일반	세계단일정부는 특이점이 와도 불가능할것 같은게... [14]	ㅇㅇ	17:17	193	0
487487	일반	이새끼는 믿으면서 지미애플은 못믿겠다고..? [4]	ㅇㅇ(59.17)	17:11	409	6
487486	일반	꺼드럭만이 전에 답도 해준거보면 니미 애플은 뭔가있는거 아니냐 [1]	ㅇㅇ(106.101)	17:06	150	0
487484	일반	지미애플 최근에 폼 떨어지긴 했어도 잘 맞추는 편에 [2]	닉얼	17:01	164	0
487483	일반	엔비디아 블랙웰이 30배 성능이냐? [2]	ㅇㅇ(210.90)	17:00	178	0
487482	일반	AI는 위험 없는데? [1]	ㅇㅇ	16:57	70	0