RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 94 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	영포티룩도 멋지게 소화할 것 같은 40대 스타는?	운영자	25/10/27	-	-
AD	할로윈 슈퍼위크~!!	운영자	25/10/23	-	-
2898681	이런 글 되게 감성있지 않니 [1]	ㅁㅁ	10.26	39	0
2898678	리눅스마스터 2급 1차 시험 봐본 사람	프갤러(220.93)	10.26	35	0
2898677	울산인데도 어르신들 많이 짤리더라 이번 관세전쟁 나오고 [1]	ㅆㅇㅆ(124.216)	10.26	65	0
2898673	새삼 신기하지 않냐. 한 5~6년전만해도 애들 김제동 이야기 비웃었잖아 [7]	ㅆㅇㅆ(124.216)	10.26	104	2
2898669	나는 베어메탈만 임베디드라고 생각해!	ㅇㅇ(140.248)	10.26	46	2
2898668	유데미도 가격 인상한것 같더라 [2]	프갤러(211.186)	10.26	61	1
2898667	나는 ㅆㅇㅆ 응원함	ㅇㅇ(140.248)	10.26	57	2
2898666	이재명 고의적 부동산 폭등 청년 죽이기 공포의 마스터 플랜	♥벼락부자냥덩♥	10.26	31	0
2898665	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤	♥벼락부자냥덩♥	10.26	32	0
2898659	탈갤해야겠다 [2]	에이도비	10.26	75	0
2898658	피상속액 상한제가 시대정신임	chironpractor	10.26	31	0
2898656	디코 들어와서 각자 개발하실분? [6]	우리모두돈많이벌자(112.140)	10.26	79	0
2898655	표독한 정병 유동들 특징이 뭐냐면 [3]	에이도비	10.26	89	1
2898653	나는 ㅆㅇㅆ 응원함 [2]	프갤러(222.108)	10.26	76	1
2898649	내 여동생 사진인데 어떰? [1]	ㅁㅁ	10.26	69	0
2898648	쟤는 가망이 없어	ㅇㅇ(106.101)	10.26	60	0
2898647	SQLD 오늘부터 공부하면 11/16 시험 턱걸이 합격이라도 가능하냐 [5]	프갤러(112.154)	10.26	80	0
2898646	레딧보는데 IT 가이 스타터팩이라는거 봤는데 해외도 비슷하네 [4]	ㅆㅇㅆ(124.216)	10.26	76	0
2898645	ㅆㅇㅆ랑 같이 협업했으면 내가 사람 만들어놨을텐데 ㅇㅅㅇ	ㅆㅇㅆ	10.26	82	3
2898643	10년 지난 EBS 다큐지만 여전히 가치가 있는거 [2]	chironpractor	10.26	63	0
2898642	프갤에 활기가 돌았군 [2]	ㅇㅇ(122.199)	10.26	65	0
2898641	그런데 나 진짜 다중이짓은 안하는데	ㅇㅇ(124.48)	10.26	65	2
2898638	나랑동갑인 사촌도 백수인데 돈많은집안이라서 [1]	ㅇㅇ(14.52)	10.26	65	0
2898636	그런데 진짜 개발자 수명 짧긴 해	ㅆㅇㅆ	10.26	57	0
2898634	ㅆㅇㅆ야 개발자는 직업수명이 짧다. 잘생각해라 [6]	ㅇㅇ(106.101)	10.26	273	11
2898632	타로 근데 예전에 어느 프붕이가 실직상태일때 알바로 쓱 만들고 끝낸거 [1]	ㅇㅇ	10.26	65	0
2898631	나는 점마들이 말하는 것들을 좀 이해를 못하겠어 그냥. [3]	ㅆㅇㅆ(124.216)	10.26	69	0
2898630	미안! 내가 너무 어려운거 바랬다! [3]	ㅆㅇㅆ	10.26	63	0
2898629	아이고.. 유동아 왤케 표독해졌니 [6]	에이도비	10.26	93	3
2898628	흠, RAG는 그냥 정보 넣어둬서 하는거임 뭔가 착각하는디 [9]	ㅆㅇㅆ(124.216)	10.26	77	0
2898626	ㅆㅇㅆ야 타로사이트에 rag같은거 넣지 말고 [1]	ㅆㅇㅆ	10.26	68	0
2898625	그레셤의 법칙이 더닝 크루거에 선행함 [3]	chironpractor	10.26	63	0
2898624	ㅆㅇㅆ는 왜 고닉 안먹었음? ㅇㅇ? [2]	ㅆㅇㅆ	10.26	78	0
2898623	아니 그런데 진짜 궁금하네 타로사이트에 rag는 왜넣음 대체? [2]	ㅇㅇ(106.101)	10.26	53	0
2898622	내가 차단해서 무시하면 되는일이라 괜찮 [1]	ㅆㅇㅆ(124.216)	10.26	47	0
2898621	쟤는 뭐 아는게 하나도 없냐 [2]	ㅇㅇ(124.48)	10.26	55	1
2898620	애들아 일요일인데 싸우지말고 좀 쉬어라 [2]	루도그담당(58.239)	10.26	50	0
2898619	ㅆㅇㅆ야!! 대체 왜 타로 사이트에 rag를 처박니???? [1]	ㅇㅇ(15.204)	10.26	63	0
2898618	논문 재현 의뢰 몇건하다보니 느낀건데 왜 [4]	ㅆㅇㅆ(124.216)	10.26	62	0
2898617	내 타로사이트에 제미나이 api 붙여서 타로 채팅하게하려는데 [4]	ㅆㅇㅆ(124.216)	10.26	67	0
2898616	다른 사람 말을 신경쓰지 말아야 하는 이유- [2]	프갤러(121.172)	10.26	70	1
2898615	ㅆㅇㅆ야 그저 실력으로 입증하면 다 해결된다 [1]	ㅇㅇ(106.101)	10.26	56	0
2898613	가치관 불량한 에이스는 쓸모가 없음 [4]	chironpractor	10.26	60	1
2898612	아니 그냥 실력으로 처바르면 되는거 아님?	ㅇㅇ	10.26	48	0
2898610	니들은 왜 만날 싸우냐? [3]	프갤러(121.172)	10.26	58	1
2898608	그냥 열등감 덩어리들 보면 좀 불쌍하지 않냐. [8]	ㅆㅇㅆ(124.216)	10.26	70	1
2898605	다시 한번 말한다. 변명 위에 세워진 성공은 없다. [1]	ㅇㅇ(106.101)	10.26	44	0
2898604	[대한민국] 국회 공자학원 퇴출 요구	프갤러(121.172)	10.26	26	0
2898601	부천역 bj들 내쫒는 분위기네	프갤러(211.210)	10.26	32	0
2898598	비전공인거? 솔직히 ㅈ도 상관없음 [1]	ㅇㅇ(106.101)	10.26	72	0