RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 67 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	스타보다 주목 받는 것 같은 반려동물은?	운영자	25/10/20	-	-
AD	할로윈 슈퍼위크~!!	운영자	25/10/23	-	-
2897984	가장 어려운 과목이 끝나서 다시 올리는 BBS	파란빤스	10.24	30	0
2897983	세상 영원한게 없음	chironpractor	10.24	71	0
2897980	가짜 폭포..ㅇㅅㅇ [1]	헤르 미온느	10.24	35	0
2897978	태연 ㅇㅅㅇ	헤르 미온느	10.24	30	0
2897976	하루 한 번 헤르미온느 찬양	헤르 미온느	10.24	51	0
2897975	고맙습니다..ㅇㅅㅇ [2]	헤르 미온느	10.24	36	0
2897972	gpt에게 피상속액 상한제에 대해 물어봄	chironpractor	10.24	35	0
2897971	사회주의라는 정답을 놔두고 잡기술 써봐야 소용 없습니다. [4]	프갤러(27.177)	10.24	52	0
2897968	피상속액 상한제 어떰?	chironpractor	10.24	21	0
2897967	개인 서버 인프라 요소 [2]	프갤러(211.234)	10.24	47	0
2897966	이제 nginx에 https만 붙이면 내 서버 인프라 구축은 끝날듯	프갤러(211.234)	10.24	33	0
2897965	llm 빠들의 흔한 착각. '코딩은 도구다. 본질은 문제해결'	프갤러(110.8)	10.24	56	1
2897963	경력 포트폴리오 자소서 좃까고	취뽀아자아자링딩동	10.24	45	0
2897962	나도 갤질 너무 오래하니까 장점만 있는건 아닌가봐 [8]	chironpractor	10.24	71	1
	RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라 [3]	ㅆㅇㅆ(124.216)	10.24	67	0
2897960	해외쪽 사람들이랑 이야기해보면서 느끼는거 사람 감정은 비슷한듯	ㅆㅇㅆ(124.216)	10.24	67	0
2897958	최근에 느낀건데 여기서 이야기해봤자 대부분은 형편없어서 토론이라는게 [1]	ㅆㅇㅆ(124.216)	10.24	83	2
2897957	작업하다가 궁금해서 느낀건데 이제는 LLM없이 코드 못짜겠더라 [3]	ㅆㅇㅆ(124.216)	10.24	69	0
2897956	책 읽으면서 느끼는건데 코드짜다보면 어느순간 전능감 같은 감정들지 않냐 [1]	ㅆㅇㅆ(124.216)	10.24	61	0
2897952	생활코딩 저 유튜버는 왜 저러는거임?? [4]	프갤러(121.153)	10.24	127	0
2897951	뭐냐 학생 가르쳐주고 왔는데	루도그담당(58.239)	10.24	62	0
2897950	중학생 질문 있습니다. [3]	ㅇㅇ(211.184)	10.24	59	0
2897949	나는 내가 넘 불쌍하고 슬퍼... 진짜 너무 불쌍해...	ㅇㅇ(223.38)	10.24	41	0
2897948	나님 투자계획 세움 ㅇㅅㅇ [4]	따당	10.24	94	1
2897947	난 이런 맥주가 좋아. 탄산이 단 하나도 빠지지 않은 맥주. [1]	ㅇㅇ(223.38)	10.23	46	0
2897946	8급공무원 실수령 알려준다	ㅇㅇ(218.149)	10.23	56	0
2897945	저녁	발명도둑잡기(118.216)	10.23	27	0
2897944	부모님 지방 가셨는데	발명도둑잡기(118.216)	10.23	36	0
2897943	내 피씨 하나로 llm 돌리는 방법 튜토리얼	발명도둑잡기(118.216)	10.23	53	0
2897942	자바 ㅈ같은거 한번씩 보고가라. [4]	저스트두잇이여(211.108)	10.23	92	0
2897941	신입인데 nhn dooray 붙으면 감?	ㅇㅇ(118.235)	10.23	43	0
2897940	c언어 함수에서 막힌다 시발 [5]	프갤러(121.153)	10.23	82	0
2897939	기안84 수상한 건 [2]	프갤러(211.210)	10.23	110	0
2897938	국장 하지마라	chironpractor	10.23	43	0
2897937	러스트 베비 게임엔진 난리났다! [1]	프갤러(110.8)	10.23	68	1
2897931	spring boot 독학하고 싶은데 [3]	프갤러(1.239)	10.23	82	0
2897930	VSCode NeoAnsi 공개 [1]	파란빤스	10.23	71	0
2897929	개인이 LLM 만드는거 어떻게 생각해 나 해보고 싶은데 [4]	ㅆㅇㅆ(124.216)	10.23	99	0
2897926	오아시스 형 이름	발명도둑잡기(118.235)	10.23	54	0
2897921	외향적 성격을 고쳐라	손발이시립디다	10.23	49	0
2897917	나는내향적이야 외향충들이날음해했어 [1]	손발이시립디다	10.23	63	0
2897915	나는조현병이야 나는내향적이야 [1]	손발이시립디다	10.23	66	0
2897914	돈안주면 [1]	배구공(119.202)	10.23	46	0
2897912	AI 바이브 코딩 인생 40 년 갈아 넣었습니다. [1]	프갤러(59.16)	10.23	60	0
2897911	돈...받을 수 있을까 [3]	ㅆㅇㅆ(124.216)	10.23	71	0
2897910	여친이랑 헤어졌는데 내 잘못임? [4]	펌뉴비	10.23	67	0
2897909	역시 눈팅하는 고수들이 많구나 [7]	chironpractor	10.23	98	0
2897908	개발 말고 직무 뭐 없을까? [9]	프갤러(218.155)	10.23	135	0
2897907	다른건 모르겠는데 ㅆㅇㅆ야 대칭형 인터넷좀 써라 ㅇㅅㅇ [2]	류류(121.160)	10.23	74	0
2897906	함수형 [4]	배구공(119.202)	10.23	51	0