RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 69 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	스타보다 주목 받는 것 같은 반려동물은?	운영자	25/10/20	-	-
AD	할로윈 슈퍼위크~!!	운영자	25/10/23	-	-
공지	프로그래밍 갤러리 이용 안내 [97]	운영자	20.09.28	48205	65
2898228	[대한민국] 백해룡과 한동훈, 그리고 이재명의 단짝 활동	프갤러(121.172)	12:06	1	0
2898227	섹스톤보면 정치인들이 머리가 좋은거 알수있음 [1]	타이밍뒷.통수한방(1.213)	11:53	11	0
2898226	문동주 야~ 기분조타~! [1]	♥벼락부자냥덩♥	11:46	21	0
2898225	연예인들도 국비6개월 듣고 개발자되는나라 ㅋㅋㅋㅋㅋ [3]	타이밍뒷.통수한방(1.213)	11:44	22	1
2898224	오늘 아침부터 일이 잘 풀릴거같음	타이밍뒷.통수한방(1.213)	11:43	8	0
2898223	국비 6개월들으면 개발자인나라임 ㅋㅋㅋㅋ [1]	타이밍뒷.통수한방(1.213)	11:37	19	0
2898220	AI에 소모되는 전력량 계산!	프갤러(121.172)	11:25	13	0
2898218	미국도 파산함? [2]	프갤러(121.172)	11:24	15	0
2898217	[애니뉴스] 연구주제 카테고리 생성중!	프갤러(121.172)	11:22	8	0
2898216	미국이 파산하면 ai기업들어캐될까 [4]	프갤러(175.197)	11:09	29	0
2898212	djvu아시나요 [7]	배구공(119.202)	10:07	34	0
2898210	너네들 AI 사용하는 사람 있냐?	프갤러(121.172)	10:03	18	0
2898209	검색증강생성 RAG란?	프갤러(121.172)	09:56	14	0
2898207	이런 날씨에 집에 있는건 손해다 [5]	chironpractor	09:47	35	0
2898204	까치발 들기 100회는 하자 [2]	chironpractor	09:10	36	0
2898202	유산소는 몰라도 웨이트는 꼭 해라	chironpractor	08:59	25	0
2898194	삼성 2 : 11 한화	♥벼락부자냥덩♥	08:47	23	0
2898190	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤ [2]	♥벼락부자냥덩♥	08:14	35	0
2898186	가을을 느낄 수 있는..ㅇㅅㅇ [4]	헤르 미온느	06:49	29	0
2898185	태연 ㅇㅅㅇ	헤르 미온느	06:48	19	0
2898184	하루 한 번 헤르미온느 찬양	헤르 미온느	06:47	32	0
2898183	드디어 ㅅㅂ 집 들어갑니다. 심장이 아파요;;	ㅇㅇ(223.38)	06:42	19	0
2898180	실시간 화면공유 하는 프로그램 [2]	프갤러(125.240)	06:04	43	0
2898170	한국에서 마약사범이 늘어난 진짜 이유	야옹아저씨	05:16	46	0
2898160	가난이 밉다... 추운날 어디 잘곳도 없어 길바닥을 전전하는 인생이... [1]	ㅇㅇ(223.38)	03:39	42	0
2898149	이번에 오픈 ai에서 공개된 경제 계획청사진 봤냐 [5]	ㅆㅇㅆ(124.216)	01:53	79	0
2898140	취미코딩 갤러리가 오픈했습니다 [2]	Mosaic	01:31	65	0
2898135	내가 느끼는게 이거 깃헙 스타찍는 버릇이 좋지 않더라 [6]	ㅆㅇㅆ(124.216)	01:21	69	0
2898124	최근에 쪽팔렸던게 의뢰인 앞에서 구현 실패해서 비웃음 당한거 [3]	ㅆㅇㅆ(124.216)	01:03	73	1
2898123	근데 에이도비 행님 말이 맞는듯 실제로 생각해보면 [2]	ㅆㅇㅆ(124.216)	01:03	52	0
2898120	중국인이 만든 프로젝트중에 이번에 뜨는게 그 논문번역 서비스 [7]	ㅆㅇㅆ(124.216)	00:59	73	0
2898119	-	프갤러(221.149)	00:56	17	0
2898115	인생 신기하노 [5]	프갤러(221.149)	00:53	141	0
2898106	내 얼굴 사진인데 어때?	ㅁㅁ	00:27	76	0
2898105	음기 충전	발명도둑잡기(118.216)	00:27	62	0
2898103	의뢰인이 내가 코딩하는 거 지켜보는 걸 그냥 냅둬? [6]	에이도비	00:11	73	0
2898102	스페이스X, 미얀마 사기 거점에 악용된 '스타링크 2500대' 차단	발명도둑잡기(118.216)	00:06	20	0
2898101	이준석이 대단하긴 함 [1]	타이밍뒷.통수한방(1.213)	00:06	39	0
2898099	진짜 ai덕에 모르는거 쉽게하긴한다 [2]	노력	10.24	84	0
2898097	냥덩이 캄보디아로 잡혀가서... [1]	발명도둑잡기(118.216)	10.24	34	0
2898096	서버샀죠 [7]	노력	10.24	73	0
2898095	감자튀김 먹는 노무현 전 대통령	발명도둑잡기(118.216)	10.24	62	0
2898094	한국 강의 몇편 봤는데 맥락없이 단어로만 번역함 [6]	ㅆㅇㅆ(124.216)	10.24	70	0
2898092	근데 프로그래밍 서적들 아키텍트 서적들 보면 한국 강사들꺼 왜 배우나 [3]	ㅆㅇㅆ(124.216)	10.24	65	0
2898091	금이 급락했으니 지금이 매수할 때다 [1]	발명도둑잡기(118.216)	10.24	33	0
2898090	민희진 오케이 설립 기사 보니 생각나는 글	발명도둑잡기(118.216)	10.24	85	0
2898088	[1인`1개] 배 민 30,000 원 짜리 아무나 써 ! [1]	ㅇㅇ(223.39)	10.24	29	0
2898087	내가 느끼기에 ㅆㅇㅆ가 프갤에서 머리 제일 좋다 [6]	발명도둑잡기(118.216)	10.24	73	0
2898086	템플 OS의 장점 [1]	발명도둑잡기(118.216)	10.24	38	0