디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17
조회 95 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도


결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라


결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만 


이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.


결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고


그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고


RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게


결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.


한계가 있어


추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 영포티룩도 멋지게 소화할 것 같은 40대 스타는? 운영자 25/10/27 - -
AD 할로윈 슈퍼위크~!! 운영자 25/10/23 - -
공지 프로그래밍 갤러리 이용 안내 [97] 운영자 20.09.28 48314 65
2899381 아버지 수술 끝나서 한 5시간 하셔서... 넥도리아(119.195) 17:29 1 0
2899380 근데 파이썬이 다양성을 포용안하면 그것도 이상한게 ㅆㅇㅆ(124.216) 17:19 12 0
2899379 이번 트럼프정부 파이썬 150만달러 이야기 봤냐 너네? [4] ㅆㅇㅆ(124.216) 17:13 25 0
2899378 중국기사보는데 타입스크립트 배워두길 잘했더라 [2] ㅆㅇㅆ(124.216) 17:10 21 0
2899377 근데 중국쪽 정보 보는 애들은 느끼지만 중국이 흐름따라가기 존나 편함 [3] ㅆㅇㅆ(124.216) 17:04 21 0
2899376 저장용 [1] ♥벼락부자냥덩♥갤로그로 이동합니다. 16:53 12 0
2899375 코드 납품하다보면 신기한게 분명히 다 같이 지피티 쓰잖아? [6] ㅆㅇㅆ(124.216) 16:42 36 0
2899374 장사하는데 손년놈들 중에 좆문가가 너무 많다 [9] chironpractor갤로그로 이동합니다. 16:37 29 0
2899373 나만 코딩 유튜버는 여자 유튜버밖에 안보냐. [6] ㅆㅇㅆ(124.216) 16:36 34 1
2899372 생각해보면 서블렛이 레알 좋은 개념인듯하노 이기 [4] 슈퍼막코더(126.179) 16:16 25 0
2899371 이 문장 되게 감성있지 않음? ㅇㅇ1갤로그로 이동합니다. 16:08 17 0
2899370 남의 나라 국가인데 왜 난 미국 국가 들으면 울컥하는지 몰겠음 chironpractor갤로그로 이동합니다. 16:00 16 0
2899369 사무실 임대했다고 사업 잘된다고 깝쳤는데 월세 올라서 취소 프갤러(172.225) 15:36 26 2
2899368 무당 보고 왔는데 내년 3월까지 힘들대서 기분 싱숭샘숭함 [4] ㅆㅇㅆ(124.216) 15:33 38 0
2899367 납품준비 해야겠다 ㅆㅇㅆ(124.216) 15:21 17 0
2899366 [대한민국] 트럼프 대통령 한국 방문 프갤러(121.172) 15:14 14 0
2899365 50만원 flex [7] 에이도비갤로그로 이동합니다. 14:51 45 0
2899364 Ai가 발전한 세상에서 우린 어떻게 살아갈까 ㅇㅇ(211.235) 14:38 15 0
2899363 agi는 의외로 가까울지도 모름 [1] 프갤러(211.106) 14:21 33 0
2899362 아침에 싸이렌덕에 강제 기상한 프봉이들 개추 ㅋㅋㅋㅋㅋ 타이밍뒷.통수한방(1.213) 14:21 21 1
2899361 c++교재 추천좀 [4] ㅇㅇ갤로그로 이동합니다. 14:16 33 0
2899360 호소카와 다카시 북쪽의 술집 배구공(119.202) 14:11 14 0
2899359 유흥에 1억썼다. 유흥 와꾸 티어 순위알려준다 [3] ㅇㅇ(118.235) 13:52 45 0
2899357 트럼프가 찢짜이밍한테 미스터 리라고 했나보네 chironpractor갤로그로 이동합니다. 13:33 37 0
2899356 맥북 프로 16 (m3 pro, 36GB, 512GB) 중고시세 얼마보냐 [1] 임금밀린코딩몽키(1.236) 13:20 20 0
2899355 AI 창조자: 어떻게 작동하는지 모름 발명도둑잡기(118.235) 13:17 22 0
2899354 졸업작품이란 뭘까... [1] 공기역학갤로그로 이동합니다. 12:57 44 0
2899353 ☆*:.。. o(≧▽≦)o .。.:*☆ [3] ♥벼락부자냥덩♥갤로그로 이동합니다. 12:48 45 0
2899352 요새 이모티콘 보면 왤케 현기증이 나냐 [1] 프갤러(175.212) 12:31 30 1
2899351 ㅆㅇㅆ = 사이비 코더 [1] 프갤러(175.212) 12:29 53 4
2899350 ❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤ ♥벼락부자냥덩♥갤로그로 이동합니다. 10:56 43 0
2899349 플러터vs코틀린 배틀에 스위프트 합류했네 [2] 거북이속이거북갤로그로 이동합니다. 10:40 55 0
2899348 여기 장애인들 [2] 프갤러(175.212) 10:38 69 0
2899347 소프트웨어적으로 뇌가 망가지기도 함 [6] chironpractor갤로그로 이동합니다. 10:33 52 0
2899346 ngrok 왜 npx로 이제 안 되냐? ㅇㅇ갤로그로 이동합니다. 10:11 19 0
2899345 퇴직금 받아서 이거 하나 사고싶은데 어때? ㅇㅇ1갤로그로 이동합니다. 09:44 32 0
2899344 KPOP 기획사들 여자아이돌 제발 일본남자랑 그만 엮이게 하세요 [3] 한국을지켜요갤로그로 이동합니다. 09:35 184 1
2899343 프렌치 메리골드 ㅇㅅㅇ [2] 헤르 미온느갤로그로 이동합니다. 09:22 43 0
2899342 寇글 이것들은 사람새끼가 아예 없나 [1] 프갤러(49.165) 09:18 31 0
2899341 태연 ㅇㅅㅇ 헤르 미온느갤로그로 이동합니다. 09:17 26 0
2899340 하루 한 번 헤르미온느 찬양 헤르 미온느갤로그로 이동합니다. 09:16 35 0
2899339 나는조현병이야 나는내향적이야 손발이시립디다갤로그로 이동합니다. 09:11 35 0
2899338 누가 나 욕해 ㅆㅇㅆ. 뭔일있냐.. 헬마는 공원 갔고... [1] 넥도리아(119.195) 09:11 42 0
2899337 ❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤ [2] ♥벼락부자냥덩♥갤로그로 이동합니다. 08:28 56 0
2899336 지 반박하면 다 124.48이라니께!!! ㅇㅇ(118.235) 08:13 50 2
2899335 ㅆㅇㅆ장애인새끼 또 개좆같이 이해하고 지말만 맞다 [1] ㅇㅇ(118.235) 08:06 61 4
2899334 나님 경제칼럼 시리즈 써볼까 생각즁 [1] ♥벼락부자냥덩♥갤로그로 이동합니다. 08:01 52 0
2899333 연습생만 28년 ㅋㅅㅋ [1] ♥벼락부자냥덩♥갤로그로 이동합니다. 07:47 38 0
2899332 이거 꼭 머거봐야징 ♥벼락부자냥덩♥갤로그로 이동합니다. 07:44 15 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

디시미디어

디시이슈

1/2