RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 92 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	영포티룩도 멋지게 소화할 것 같은 40대 스타는?	운영자	25/10/27	-	-
AD	할로윈 슈퍼위크~!!	운영자	25/10/23	-	-
2899142	저능아가 개발문서 보면 하루아침에 전문가 되는거냐 그럼? [2]	ㅇㅇ(118.235)	12:13	51	2
2899141	"개발 문서 보는것도 전문가지 병신아" [1]	ㅇㅇ(118.235)	12:11	55	4
2899140	ㅆㅇㅆ 저 병신은 지가 그렇게 잘났으면 [2]	ㅇㅇ(118.235)	12:10	58	2
2899139	하~ 이씨발년 [8]	개멍청한유라	11:36	86	0
2899138	openai알트먼 진성홍어임	타이밍뒷.통수한방(1.213)	11:27	21	0
2899137	나 애플디벨로퍼아카데미 4긴데	프갤러(121.151)	11:06	29	0
2899136	최근 일본의 우타이테 프로그램 수준	프로외노자	10:53	18	0
2899135	학생인데 진로 어케 잡아야되나요..? [2]	프갤러(121.133)	10:31	32	0
2899134	자러감..ㅇㅅㅇ	헤르 미온느	09:40	23	0
2899132	미리 알려드릴께요. 아하 운영진께 지식인 서비스 오늘 내일 수술인데	넥도리아(220.74)	09:01	21	0
2899131	군상(群像)의 일부..ㅇㅅㅇ	헤르 미온느	08:37	27	0
2899130	태연 ㅇㅅㅇ 잘못 올렸네.. 다시 올린다.. ㅇㅅㅇ	헤르 미온느	08:35	31	0
2899129	하루 한 번 헤르미온느 찬양	헤르 미온느	08:34	41	0
2899126	childhood and manhood	배구공(119.202)	06:20	24	0
2899082	어셈블리 코드를 C 언어로 변환해주는 사이트가 있었던 것 같은데 아는 람	ㅇㅇ(115.23)	02:36	45	0
2899075	Ada 프로그래밍: 3.6 프라그마 (pragma)	나르시	02:07	27	0
2899074	거지 같은 면접 과제? 코테? 10시간 걸려 다 함..	ㅇㅇ	02:06	36	0
2899065	나는 모든사람이 나처럼 10년이상 대학병원을 다녔으면 좋겠음	타이밍뒷.통수한방(1.213)	01:49	33	0
2899052	나도 오늘은 외주가 있어서 밥벌이했는데 [2]	ㅆㅇㅆ(124.216)	00:58	78	0
2899044	이런 잠시 잊고 있었군. 인류 지성의 발전이 곧 개개인의 사명. [2]	프갤러(110.8)	00:39	47	0
2899043	나도 돈많이 벌어서 내 LLM 만들고 싶어 나 LLM 만들 수 있을거같다 [1]	ㅆㅇㅆ(124.216)	00:37	52	0
2899037	여자배구 마이너갤러리 매니저 해임요청	ㅇㅇ(211.235)	00:31	24	0
2899029	여자 버튜버들 구독자 1만도 힘든거같은데 [4]	헬마스터	00:02	61	0
2899020	내 인생 경험상 무조건 기업 기반이나 재단 기반이 있어야함 [9]	ㅆㅇㅆ(124.216)	10.27	95	0
2899010	나는 코딩에 재능은 없지만 코딩은 좋아함 [4]	ㅆㅇㅆ(124.216)	10.27	86	0
2899005	명상 하다보니 러스트 프로그래밍보다 인생이란 뭘까 [5]	프갤러(110.8)	10.27	67	0
2899004	나는 모든인간들이 나처럼 인생살았으면 좋겠음 [1]	타이밍뒷.통수한방(1.213)	10.27	47	0
2899003	명상 하다가 현타왔다. [2]	프갤러(110.8)	10.27	50	0
2898996	국정원에서 뭐할라하나? 개발자를뽑네 [4]	ㅇㅇ(220.86)	10.27	86	0
2898992	옛날엔 채널 50개도 안되도 볼거 많았는데	타이밍뒷.통수한방(1.213)	10.27	19	0
2898991	쿠팡 존나게 뛰고 업소 가서 돈 다쓴 썰..	ㅇㅇ(118.235)	10.27	28	0
2898988	메모리 페이지 기본값 4KB가 만국 표준 아님? [3]	프갤러(49.165)	10.27	45	0
2898986	u+ 채널이 999개인데 ㄹㅇ 볼만한채널이없음 ㅋㅋㅋㅋㅋㅋㅋㅋ	타이밍뒷.통수한방(1.213)	10.27	23	0
2898985	맥 최초 운영 체제 이름이 좀 특이하네	프갤러(140.213)	10.27	51	0
2898981	와 근데 학생코드 짜다보면 느끼는데 항상 너무 어렵게짜서	ㅆㅇㅆ(124.216)	10.27	50	0
2898978	졸리댱..	♥벼락부자냥덩♥	10.27	55	0
2898975	나도 프밍에 재능 있었으면 좋았겠지	프갤러(220.121)	10.27	44	0
2898974	김연경씨라는 배구선수 비호감아니냐? [5]	헬마스터	10.27	78	0
2898972	ʕ⁎⁎ʔ༄	♥벼락부자냥덩♥	10.27	44	0
2898971	개발자 취업난 맞노? [7]	프갤러(180.231)	10.27	131	0
2898970	ʕ••ʕ••ʔ••ʔ••ʕ••ʔ••ʕ	♥벼락부자냥덩♥	10.27	46	0
2898969	나는 살면서 지나간 날이 그립진 않던데 그리운 애들 많구만	ㅆㅇㅆ(124.216)	10.27	31	0
2898968	☆:.｡. o(≧▽≦)o .｡.:☆ [1]	♥벼락부자냥덩♥	10.27	30	0
2898967	개발은 진짜 타고난 지능 좋아야 하는 직업이네 [3]	프갤러(116.45)	10.27	119	0
2898964	웹디자인은 AI 떄문에 진짜 이미 멸망한 것 같은데	프갤러(220.70)	10.27	40	0
2898960	인터럽트가 함수 실행이랑 똑같음 [2]	재현	10.27	30	0
2898958	대학원 지원서 맥락에서 대단하다고 표현될 만한 수준	나르시	10.27	28	0
2898957	냥냥⭐+	♥벼락부자냥덩♥	10.27	23	0
2898950	세상. 그리고 나.	프갤러(110.8)	10.27	23	0
2898947	저장용 [2]	♥벼락부자냥덩♥	10.27	37	0