RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 75 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	스타보다 주목 받는 것 같은 반려동물은?	운영자	25/10/20	-	-
AD	할로윈 슈퍼위크~!!	운영자	25/10/23	-	-
공지	프로그래밍 갤러리 이용 안내 [97]	운영자	20.09.28	48214	65
2898347	열심히들 하고 젊을때 화끈한 선택 하고 살아야되.txt	Kyle(103.21)	21:32	3	0
2898346	끙야는 삶의 원천이당 By 나님	♥벼락부자냥덩♥	21:26	1	0
2898345	타인의 공격을 피하기위해 수련중 [2]	배구공(119.202)	21:26	7	0
2898344	저녁 일찍 머근거 지금 냐옹	♥벼락부자냥덩♥	21:24	3	0
2898343	나님 끙야즁❤+ [4]	♥벼락부자냥덩♥	21:24	7	1
2898342	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤	♥벼락부자냥덩♥	21:21	2	0
2898340	211.234 << 이 새낀 쫌 꺼졌으면 ㅋㅋ [25]	루도그담당(58.239)	21:02	152	0
2898339	진짜... 공식 api 문서 한번이라도 봐라 제발... [11]	ㅇㅇ(106.101)	20:59	60	0
2898338	자꾸 내가 다중이라는 조현병자 실드치는 루도그야	ㅇㅇ(211.234)	20:53	41	1
2898337	기술적으로 지적 좀 해줘? [32]	ㅇㅇ(106.101)	20:49	137	2
2898335	무서운거알려줄까요 [7]	파란빤스	20:44	27	0
2898334	프리랜서 뛰고있는건 대단한것도 아님. [2]	ㅆㅇㅆ(124.216)	20:41	55	0
2898333	무서운거 알려줄까? [1]	배구공(119.202)	20:35	21	0
2898331	근데 상대방이 요란한 빈수레라고 생각하면 [31]	chironpractor	20:31	120	0
2898329	회사생활을 하면 실력이 올라갈 거란 생각은 ㄴㄴ [10]	에이도비	20:30	60	0
2898328	good	파란빤스	20:29	19	0
2898326	걍 쪽팔려서 인증한거 삭제했다 좆병신들이랑 싸운게 [9]	ㅆㅇㅆ(124.216)	20:14	66	0
2898325	딱정리해준다 [6]	파란빤스	20:14	41	0
2898324	인증한거 삭제는 왜 했을까 [1]	ㅇㅇ(211.234)	20:12	30	0
2898323	그래, 늘 하던대로 도망쳐라	ㅇㅇ(106.101)	20:12	21	0
2898321	나나 좆타트업인 너나 거기서 거긴데 [7]	ㅆㅇㅆ(124.216)	20:10	55	0
2898319	조현병의 허언증이 맞음 [17]	ㅇㅇ(211.234)	20:08	59	1
2898315	치킨 존나 땡기는데 [7]	루도그담당(58.239)	20:04	37	0
2898314	나 ㅈ밥 중소따리 개발자야 너는 그럼 뭐야? [2]	ㅇㅇ(106.101)	20:03	46	1
2898311	저격할거면 일단 네 회사부터 까봐라. ㅇㅇ 회사 못까면 지랄 말고 [1]	ㅆㅇㅆ(124.216)	19:59	20	0
2898310	내가 병신 좆소 5년 전전하며 느낀것 [7]	프갤러(211.234)	19:58	35	2
2898309	존나 열받음 [1]	배구공(119.202)	19:58	25	0
2898308	좋아 어떤게 오개념인데, 나는 내가 한 말 전부 레퍼런스 가져올 수 있음	ㅆㅇㅆ(124.216)	19:57	24	0
2898306	아니 병신년아 내 글 검색만해도 어떤 스택 뭔 쓰는거 이딴 이야기가 [5]	ㅆㅇㅆ(124.216)	19:56	31	0
2898304	대체 왜 저런 병신들은 자꾸 들러붙어 저격하는걸까 [10]	ㅆㅇㅆ(124.216)	19:53	30	0
2898303	싸우지마십쇼 제발 ㅠ [5]	파란빤스	19:52	31	0
2898302	보는 사람도 많으니까 ㅆㅇㅆ야 이번 기회에 니 자랑 당당하게 해라 [2]	ㅇㅇ(106.101)	19:50	34	3
2898300	상식적으로 애지간하면 저격 안하고 먼저 지랄하면 걍 싸우는건데 [2]	ㅆㅇㅆ(124.216)	19:49	20	0
2898299	아니, 왜 굳이 디시까지와가며 자기 지위의 확인을 계속 하냐 [8]	ㅆㅇㅆ(124.216)	19:45	39	0
2898298	ㅇㅇ 니 하고싶은거 다 하며 살아라 [3]	ㅇㅇ(106.101)	19:42	40	3
2898297	너네가 '조언'이라면서 늘어놓는 개소리의 본질이 뭐냐. [11]	ㅆㅇㅆ(124.216)	19:40	44	0
2898296	곽튜브가 사회적인 룰 무시하고 출세했잖아 ㅇㅅㅇ [2]	류류(118.235)	19:37	32	1
2898295	아니 하면 하고 서비스 만들어서 내면내는거지ㅋㅋ 내 참 씨발ㅋㅋㅋ [2]	ㅆㅇㅆ(124.216)	19:36	28	1
2898294	Chatter BBS 약후짤됩니다	파란빤스	19:35	14	0
2898293	프리랜서가 문제가 아니야 "무경력 프리랜서"가 문제인거지 [3]	ㅇㅇ(106.101)	19:32	45	2
2898292	내꿈이 월 억대 초절미소녀 인방녀랑 결혼하는거임 [1]	류류(118.235)	19:31	17	1
2898291	결국 그거잖아 '나는 망생이들 앞에서 서열 유지하고 싶어요' [5]	ㅆㅇㅆ(124.216)	19:30	36	1
2898290	나도 운빨로 숲에서 월 억대 미소녀 인방녀랑 결혼하고 싶노	류류(118.235)	19:29	13	1
2898289	에라 모르겠다 이자카야 저녁이나 먹어야지 ㅇㅅㅇ [1]	류류(118.235)	19:26	14	0
2898287	경력이 있어야 프리를 뛰는데 경력도 없는데 프리라 [3]	류류(118.235)	19:25	27	0
2898286	도대체 어떤 인생을 살면 사람을 믿게 되는거임 ㅇㅅㅇ??	ㅇㅇ(223.39)	19:25	12	1
2898285	프리 뛸려면 현업경력 업계 인정 받아야 가능한데?	류류(118.235)	19:24	16	0
2898284	나는 뭔 조언이랖시고 빡통대가리 개소리하는게 이해가 안가. [2]	ㅆㅇㅆ(124.216)	19:22	33	1
2898283	3년 쌓고 이직해야겠다	류류(118.235)	19:21	14	0