사실 최대 토큰량만이 문제가 아니다 - 특이점이 온다 마이너 갤러리

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…) VPN차단용(near1254) ㅇㅇ(prince23…) 퐁칸8(zxvw157) era(eradd) かみ(thank346…)

개설일

2019-08-01

[일반] 사실 최대 토큰량만이 문제가 아니다앱에서 작성

ㅇㅇ(61.99) 2024.05.03 10:47:19

조회 102 추천 0 댓글 2

2만k든 20만k든 최대 토큰량 커봤자

일정 토큰 이상되면 처음이랑 미지막으로 했던 말 빼고는 중간내용은 잊어먹는 문제가 발생함.

예를들어 최대 기억토큰량이 2만k일때

처음 5k토큰까지 대화하는데는 문제없다가 1만k토큰쯤되면 처음대화내용은 그대로 기억하는데 중간으로 밀려난 5천k토큰쯤에 했던 내용은 기억못하고 치매옴 ㅋㅋ

아무래도 인간처엄 이전대화내용을 기억하면서 다음 대화를 이어나가는 것이 아니라 대화를 내놓을마다 이전에 했던 대화 전체를 입력해서 다음 대화의 내용을 도출하는 방식의 한계가 아닌가함.

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2943	이슈	[디시人터뷰] 라이징 스타로 인정받은 걸그룹, ‘리센느(RESCENE)’	운영자	24/11/08	-	-
2944	설문	축의금 적게 내면 눈치 줄 것 같은 스타는?	운영자	24/11/11	-	-
555531	일반	재귀개선 상온핵융합 역노화 휴머노이드 완전자율주행 완몰가	ㅇㅇ(125.133)	10.26	72	0
555530	일반	일리야는 도대체 얼마나 천재인거냐 [6]	ㅇㅇ(1.239)	10.26	428	0
555529	일반	그럼 오픈ai는 앞으로 [3]	이모티콘	10.26	158	2
555528	일반	챗 4o이거 병신이네 병신 [6]	dddd(1.176)	10.26	223	0
555527	일반	gpt4에 수렴하는 이유가 있었나 [3]	ㅇㅇ	10.26	133	0
555526	일반	oai "사실 우리도 학습실패함 ㅈㅅ ㅎㅎ" [6]	ㅇㅇ	10.26	413	3
555525	일반	비디오-텍스트 멀티모달(인풋 아웃풋 지원) 모델은 언제 나올까 [2]	한가운데	10.26	83	0
555523	일반	팩트는 4o도 스트로베리 합성데이터로 뚝딱 만들어낸 밀키트라는거임	ㅇㅇ	10.26	143	2
555522	일반	oai의 승리네 [4]	ㅇㅇ	10.26	269	0
555521	일반	LLM 검열 진짜 븅딱 같네 [4]	msec	10.26	168	0
555520	일반	다른 곳은 gpt4o 수준에서 빌빌거릴때 [11]	따뜨	10.26	567	15
555519	일반	아직 재귀개선이라기보다 [2]	ㅇㅇ	10.26	157	0
555517	일반	얀르쿤이 2022년 lex fridman 나와서 한 말 [10]	ㅇㅇ	10.26	371	6
555516	일반	이전 오픈ai에도 아라카스라는 나쁜 선례가 있었음 [2]	ㅇㅇ	10.26	327	3
555514	일반	결국 언어모델 깡성능이 좋아야 o2 o3가 나오는거임 [2]	ㅇㅇ(121.131)	10.26	166	1
555513	일반	AI동맹에 한국은 그냥 이미 고멤아님? [3]	ㅇㅇ	10.26	169	1
555512	일반	구글,앤트로픽 학습실패할거면 gpu 압수하면 안되나요?	ㅇㅇ	10.26	63	0
555511	일반	추론학습은 필연이였음 [5]	ㅇㅇ	10.26	188	0
555510	일반	키 늘리는 법이나 나왔으면 [4]	ㅇㅇ(118.222)	10.26	117	0
555509	일반	추론 조금만 늦게 나왔으면 ㄹㅇ 빙하기 올뻔했다 [3]	ㅇㅇ	10.26	210	0
555508	일반	챗지피티 혹시 이거 많이 뜨면 차단당함?? [3]	ㅇㅇ(125.177)	10.26	192	0
555507	일반	내생각엔 기존 스케일링이 끝난게 아니고 [1]	ㅇㅇ	10.26	121	0
555506	일반	추론모델의 시대로 진입하는건가 [6]	ㅇㅇ(121.131)	10.26	158	0
555505	일반	파라미터가 높아지면 결국 추론능력이 가장 중요하다	ㅇㅇ	10.26	77	0
555504	일반	전 뭘 스케일링 해야하는줄 알 것 같아요 [2]	ㅇㅇ	10.26	124	0
555503	일반	ai동맹 한국도 들어갈만함? [6]	ㅇㅇ(1.229)	10.26	235	1
555502	일반	크아악 파라미터 스케일링 벌써 끝났네요... [8]	ㅇㅇ	10.26	269	0
555501	일반	오픈ai가 다른 회사들보다 1년 정도 앞서있네 [2]	이모티콘	10.26	174	1
555500	일반	gpt5도 처음에 실망적이라 재학습한거 아니였나 [3]	ㅇㅇ(14.40)	10.26	189	0
555499	일반	그렇다면 오리온은 대체 [5]	ㅇㅇ	10.26	226	1
555498	일반	미국이 gpt5를 빡세게 검열하려는 이유	ㅇㅇ	10.26	260	0
555496	일반	겨울이냐? 꽃샘추위냐..?	따뜨	10.26	64	0
555495	일반	누가 이 개소리좀 반박해봐라 [9]	ㅇㅇ	10.26	375	0
555494	일반	오리온을 근데도 낸다는건 성능에 자신이 있는건가 [4]	ㅇㅇ(121.131)	10.26	179	0
555493	일반	냉참이 녹이는건 ㅈ밥아님?	ㅇㅇ	10.26	61	0
555492	일반	역시 오퍼스3.5는 규모에 비해 성능이 실망스러워서 안나왔나보네 [2]	ㅇㅇ	10.26	148	0
555491	일반	완자 <- 이거되면 과도기 start	ㅇㅇ	10.26	86	0
555490	일반	근데 냉동인간 이새끼들 [4]	ㅇㅇ(222.97)	10.26	116	0
555489	일반	하사비스팀 차기 플래그십 모델 성능 “실망” [15]	ㅇㅇ	10.26	3620	27
555488	일반	특이점오면 냉참한 사람들 살릴 수 있나요? [12]	ㅇㅇ	10.26	210	0
555486	일반	일본에서 임상중인 치아재생 언제쯤 시중에 풀리려나 [2]	케손요	10.26	261	0
555485	일반	보추 따먹고 싶다 [8]	Dall리신(121.157)	10.26	323	1
555483	일반	asi 와도 모든 인간이 행복해지는건 아니지 않음? [5]	중궈	10.26	149	0
555481	일반	미대선특 [2]	떠깅	10.26	134	0
555480	일반	미국) 반도체, AI개발자 취업비자 간소화 행정명령 발행 [3]	초코냥	10.26	175	0
555479	일반	디즈니 곧 ai 이니셔티브 발표	ㅇㅇ(182.213)	10.26	162	0
555476	정보/ 정보/뉴스	마소 사장님 근황 [4]	싱글네리티	10.26	510	1
555475	일반	2150년에서 왔다. [20]	ㅇㅇ(211.62)	10.26	291	0
555474	일반	oai가 agi선언해서 마소 기술공유권 박탈해도 [9]	ㅇㅇ(175.209)	10.26	235	0
555473	일반	범죄도 이유가 있어서 생기는거임	ㅇㅇ	10.26	192	0