RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 78 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	스타보다 주목 받는 것 같은 반려동물은?	운영자	25/10/20	-	-
AD	할로윈 슈퍼위크~!!	운영자	25/10/23	-	-
2898279	아침 점심 저녁 [2]	발명도둑잡기(118.216)	10.25	24	0
2898278	근데 BaaS보다 백엔드 다 구축하는거 언제 효율이 좋아지냐 [15]	ㅆㅇㅆ(124.216)	10.25	79	0
2898277	국비 6개월이면 개발자라고 할 수 있긴 하지 [4]	에이도비	10.25	125	0
2898276	26년에 전역에 1학년부터 시작인데 트는게 맞냐 [1]	프갤러(117.111)	10.25	66	0
2898274	나님은 좌파임 ㅇㅅㅇ [6]	♥벼락부자냥덩♥	10.25	50	0
2898273	국내 저격 갤러리 [3]	루도그담당(58.239)	10.25	54	0
2898272	극좌 찢재명의 부동산 폭등은 실수가 아닌 고의 [1]	♥벼락부자냥덩♥	10.25	56	0
2898271	이제 게임을 오래 못하겠어... 피곤하고 지치네... [1]	ㅇㅇ(223.39)	10.25	24	0
2898269	프밍 언어도 저전력 언어를 사용하도록 규제해야 함 ㅋㅋ [2]	나르시	10.25	44	0
2898268	풍력, 인공태양, 수소 연료 등이 유망할 듯	나르시	10.25	20	0
2898267	좌빨 지구온난화 거짓선동의 진실 [8]	♥벼락부자냥덩♥	10.25	44	0
2898266	오징어 짬뽕 사오는 걸 잊었다 [2]	ㅇㅇ(122.199)	10.25	28	0
2898265	인공태양, 핵융합 주식을 미리 사두어야겠어	나르시	10.25	26	0
2898264	애니뉴스가 말하는 신규 에너지원이란?	프갤러(121.172)	10.25	35	2
2898263	아마 신규 에너지원이 개발되지 않을까 [2]	나르시	10.25	26	0
2898262	뭔 과제 대리가 내 업무의 전체라고 생각하노 [5]	ㅆㅇㅆ(124.216)	10.25	59	0
2898261	내가 다 해봤는데 성공이라는 것은- [1]	프갤러(121.172)	10.25	40	0
2898260	변명 위에 세워진 성공은 없다. [2]	ㅇㅇ(106.101)	10.25	52	0
2898259	항상 아이피 바꿔와서 저러냐 현실이고 나발이고 [12]	ㅆㅇㅆ(124.216)	10.25	77	0
2898258	ㅆㅇㅆ는 외면하는 현실 [12]	ㅇㅇ(106.101)	10.25	121	3
2898257	오아시스 원더 월 듣다보면 가끔 눈물이 나지 않냐 [1]	ㅆㅇㅆ(124.216)	10.25	33	0
2898256	원래 애널 글 쓰려구 했는댕 피궁하니까 엄두도 안 난당	♥벼락부자냥덩♥	10.25	23	0
2898255	나님 피궁해서 애널 빨리 주무셔야징	♥벼락부자냥덩♥	10.25	22	0
2898253	대형견이나 소형견이나 길거리 나오려면 아가리 입마개 해야지	♥벼락부자냥덩♥	10.25	25	0
2898252	공공데이터 api 잘됨? [1]	프갤러(114.204)	10.25	43	0
2898251	자영업으로 성공할거라고 생각하는 것과 [5]	슈퍼막코더(126.33)	10.25	52	0
2898250	막코더 행님 댓글보고 요즘 애들 좀 불쌍하다 느끼는게 [4]	ㅆㅇㅆ(124.216)	10.25	111	0
2898247	옛날에는 뭘해도 비관주의였는데 요즘은 뭘 해도 낙관주의로 변함 [2]	ㅆㅇㅆ(124.216)	10.25	57	0
2898246	근데 어디든 중요한건 살아남는거지 인생은 드라마틱하지 않으니까 [7]	ㅆㅇㅆ(124.216)	10.25	100	0
2898245	애니뉴스의 공적! 후원자 찾음! [2]	프갤러(121.172)	10.25	44	1
2898244	지금 회사 다니는 마인드가 권고사직 [9]	ㅇㅇ(211.196)	10.25	59	0
2898241	termux 신기하노 ㅋㅋ	ㅇㅇ	10.25	36	0
2898240	학부과목 프로그램 만드는 프로젝트잇는데 플래너 어때요? [3]	ㅇㅇ(211.60)	10.25	39	0
2898239	나이 40되니까 좋은점은 [7]	슈퍼막코더(126.33)	10.25	75	0
2898237	기분이 좋을땐 냥덩이 흔들어봥~❤ [1]	♥벼락부자냥덩♥	10.25	36	0
2898236	부산에서 살았을때 [2]	배구공(119.202)	10.25	54	0
2898235	국비 욕하지마라 [1]	배구공(119.202)	10.25	86	0
2898232	고수익 캄보디아 취업 하러 간새끼들은 사실상 도태된새끼들이지 [7]	류류(211.196)	10.25	74	0
2898231	한국이 짱깨속국임? 친중극좌 리짜이밍 [2]	♥벼락부자냥덩♥	10.25	35	0
2898230	국가입장이라고 선동하지마셈 재벌들입장이지 ㅋㅋ [1]	타이밍뒷.통수한방(1.213)	10.25	34	0
2898229	국비 너무 욕하지 마라. 설명한다. [4]	프갤러(59.16)	10.25	124	1
2898228	[대한민국] 백해룡과 한동훈, 그리고 이재명의 단짝 활동	프갤러(121.172)	10.25	26	0
2898227	섹스톤보면 정치인들이 머리가 좋은거 알수있음 [1]	타이밍뒷.통수한방(1.213)	10.25	50	0
2898226	문동주 야~ 기분조타~! [2]	♥벼락부자냥덩♥	10.25	50	0
2898225	연예인들도 국비6개월 듣고 개발자되는나라 ㅋㅋㅋㅋㅋ [4]	타이밍뒷.통수한방(1.213)	10.25	128	1
2898224	오늘 아침부터 일이 잘 풀릴거같음	타이밍뒷.통수한방(1.213)	10.25	27	0
2898223	국비 6개월들으면 개발자인나라임 ㅋㅋㅋㅋ [2]	타이밍뒷.통수한방(1.213)	10.25	108	0
2898220	AI에 소모되는 전력량 계산!	프갤러(121.172)	10.25	24	0
2898218	미국도 파산함? [4]	프갤러(121.172)	10.25	48	0
2898217	[애니뉴스] 연구주제 카테고리 생성중!	프갤러(121.172)	10.25	22	0