RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 93 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	영포티룩도 멋지게 소화할 것 같은 40대 스타는?	운영자	25/10/27	-	-
AD	할로윈 슈퍼위크~!!	운영자	25/10/23	-	-
2898356	나님 끙야하구 치카푸카 완	♥벼락부자냥덩♥	10.25	33	0
2898355	난 동우 쉴드 친 적 없다 [2]	루도그담당(58.239)	10.25	106	0
2898354	여기를 체크해봐 [29]	에이도비	10.25	171	0
2898351	나도 경험한건데 한국 사회의 문제는 부모부터 시작임.txt [1]	Kyle(103.21)	10.25	47	0
2898350	친한 외국 동기랑 얘기해본적있는데 [10]	파란빤스	10.25	89	0
2898348	ㅁㅊ;;	♥벼락부자냥덩♥	10.25	31	0
2898347	열심히들 하고 젊을때 화끈한 선택 하고 살아야되.txt [5]	Kyle(103.21)	10.25	75	0
2898346	끙야는 삶의 원천이당 By 나님	♥벼락부자냥덩♥	10.25	30	0
2898345	타인의 공격을 피하기위해 수련중 [2]	배구공(119.202)	10.25	43	0
2898344	저녁 일찍 머근거 지금 냐옹	♥벼락부자냥덩♥	10.25	31	0
2898343	나님 끙야즁❤+ [4]	♥벼락부자냥덩♥	10.25	43	1
2898342	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤	♥벼락부자냥덩♥	10.25	31	0
2898340	211.234 << 이 새낀 쫌 꺼졌으면 ㅋㅋ [30]	루도그담당(58.239)	10.25	240	0
2898338	자꾸 내가 다중이라는 조현병자 실드치는 루도그야	ㅇㅇ(211.234)	10.25	64	3
2898335	무서운거알려줄까요 [9]	파란빤스	10.25	72	0
2898334	프리랜서 뛰고있는건 대단한것도 아님. [2]	ㅆㅇㅆ(124.216)	10.25	108	0
2898333	무서운거 알려줄까? [1]	배구공(119.202)	10.25	47	0
2898331	근데 상대방이 요란한 빈수레라고 생각하면 [31]	chironpractor	10.25	150	0
2898329	회사생활을 하면 실력이 올라갈 거란 생각은 ㄴㄴ [11]	에이도비	10.25	191	0
2898328	good	파란빤스	10.25	34	0
2898326	걍 쪽팔려서 인증한거 삭제했다 좆병신들이랑 싸운게 [9]	ㅆㅇㅆ(124.216)	10.25	109	0
2898325	딱정리해준다 [6]	파란빤스	10.25	70	0
2898324	인증한거 삭제는 왜 했을까 [1]	ㅇㅇ(211.234)	10.25	60	0
2898321	나나 좆타트업인 너나 거기서 거긴데 [7]	ㅆㅇㅆ(124.216)	10.25	81	0
2898319	조현병의 허언증이 맞음 [17]	ㅇㅇ(211.234)	10.25	116	2
2898315	치킨 존나 땡기는데 [7]	루도그담당(58.239)	10.25	67	0
2898311	저격할거면 일단 네 회사부터 까봐라. ㅇㅇ 회사 못까면 지랄 말고 [1]	ㅆㅇㅆ(124.216)	10.25	43	0
2898310	내가 병신 좆소 5년 전전하며 느낀것 [7]	프갤러(211.234)	10.25	67	2
2898309	존나 열받음 [1]	배구공(119.202)	10.25	49	0
2898308	좋아 어떤게 오개념인데, 나는 내가 한 말 전부 레퍼런스 가져올 수 있음	ㅆㅇㅆ(124.216)	10.25	42	0
2898306	아니 병신년아 내 글 검색만해도 어떤 스택 뭔 쓰는거 이딴 이야기가 [5]	ㅆㅇㅆ(124.216)	10.25	65	0
2898304	대체 왜 저런 병신들은 자꾸 들러붙어 저격하는걸까 [10]	ㅆㅇㅆ(124.216)	10.25	65	0
2898303	싸우지마십쇼 제발 ㅠ [5]	파란빤스	10.25	59	0
2898302	보는 사람도 많으니까 ㅆㅇㅆ야 이번 기회에 니 자랑 당당하게 해라 [2]	ㅇㅇ(106.101)	10.25	73	4
2898300	상식적으로 애지간하면 저격 안하고 먼저 지랄하면 걍 싸우는건데 [2]	ㅆㅇㅆ(124.216)	10.25	36	0
2898299	아니, 왜 굳이 디시까지와가며 자기 지위의 확인을 계속 하냐 [8]	ㅆㅇㅆ(124.216)	10.25	66	0
2898298	ㅇㅇ 니 하고싶은거 다 하며 살아라 [3]	ㅇㅇ(106.101)	10.25	76	3
2898297	너네가 '조언'이라면서 늘어놓는 개소리의 본질이 뭐냐. [11]	ㅆㅇㅆ(124.216)	10.25	80	0
2898295	아니 하면 하고 서비스 만들어서 내면내는거지ㅋㅋ 내 참 씨발ㅋㅋㅋ [2]	ㅆㅇㅆ(124.216)	10.25	60	1
2898294	Chatter BBS 약후짤됩니다	파란빤스	10.25	40	0
2898293	프리랜서가 문제가 아니야 "무경력 프리랜서"가 문제인거지 [3]	ㅇㅇ(106.101)	10.25	92	2
2898291	결국 그거잖아 '나는 망생이들 앞에서 서열 유지하고 싶어요' [5]	ㅆㅇㅆ(124.216)	10.25	52	1
2898286	도대체 어떤 인생을 살면 사람을 믿게 되는거임 ㅇㅅㅇ??	ㅇㅇ(223.39)	10.25	38	1
2898284	나는 뭔 조언이랖시고 빡통대가리 개소리하는게 이해가 안가. [2]	ㅆㅇㅆ(124.216)	10.25	61	1
2898282	외국은 굴에 핫소스 뿌려먹는다길래	chironpractor	10.25	35	0
2898280	본인 입사 3년만에 첫 승진햇음 [4]	류피엘	10.25	70	0
2898278	근데 BaaS보다 백엔드 다 구축하는거 언제 효율이 좋아지냐 [15]	ㅆㅇㅆ(124.216)	10.25	96	0
2898277	국비 6개월이면 개발자라고 할 수 있긴 하지 [4]	에이도비	10.25	196	0
2898276	26년에 전역에 1학년부터 시작인데 트는게 맞냐 [1]	프갤러(117.111)	10.25	90	0
2898274	나님은 좌파임 ㅇㅅㅇ [6]	♥벼락부자냥덩♥	10.25	70	0