디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17
조회 112 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도


결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라


결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만 


이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.


결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고


그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고


RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게


결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.


한계가 있어


추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 영포티룩도 멋지게 소화할 것 같은 40대 스타는? 운영자 25/10/27 - -
AD 저녁 뭐먹지? 오늘의 메뉴 추천! 운영자 25/10/31 - -
2899562 자바스크립트 어렵다 [1] 호호(121.130) 10.30 50 0
2899561 같이 취미코딩 하실분 Mosaic갤로그로 이동합니다. 10.30 38 0
2899560 춥당 야구 봐야징 ♥램프의냥덩♥갤로그로 이동합니다. 10.30 32 0
2899559 프라닭 치킨 4번 시키면 아이유 팬미팅 추첨 응모 가능한데 발명도둑잡기(118.216) 10.30 33 0
2899555 '19'갤꼬라지봐라시발.gif [1] 박민준갤로그로 이동합니다. 10.30 62 0
2899551 외세에 의한 조선 토지매매 개방? 발명도둑잡기(118.216) 10.30 28 0
2899550 한국 '맷집' 다시본 美 언론.. "저러다 한방 날릴 수도" 발명도둑잡기(118.216) 10.30 30 0
2899548 엄마는 냥덩이가 대견하단다 발명도둑잡기(118.216) 10.30 39 0
2899547 런던베이글뮤지엄 “주 80시간 과로사 주장 도저히 납득 못 해” 발명도둑잡기(118.216) 10.30 94 0
2899545 운영체제 선택법 [1] 발명도둑잡기(118.216) 10.30 55 0
2899544 엔비디아에서 깐부치킨 광고하길래 시킬려는데 [1] 헬마스터갤로그로 이동합니다. 10.30 62 0
2899543 저녁 발명도둑잡기(118.216) 10.30 35 0
2899542 안녕 30 고졸 노베이스 비전공자 컴공 취준생이다 [6] 30고졸노베(125.191) 10.30 80 0
2899540 나님 뛰뛰 30km 도저~어~언~ ♥램프의냥덩♥갤로그로 이동합니다. 10.30 30 0
2899539 AI 바이브 코딩 인생 40 년 갈아 넣었습니다. [1] 프갤러(59.16) 10.30 52 0
2899537 리액트 루프에서 index를 키로 쓰지말라는 질문 근데 진짜 날카롭네 [2] ㅆㅇㅆ(124.216) 10.30 75 0
2899536 중국쪽 머기업 프론트 엔드 개발자 면접 질문들 정리한거 봤는 [2] ㅆㅇㅆ(124.216) 10.30 86 0
2899535 요즘 책 종종 읽는데 [2] 루도그담당(58.239) 10.30 89 0
2899534 프로그램 최고 장점이 프로그램은 인터넷에 읽을게 많아 [2] ㅆㅇㅆ(124.216) 10.30 69 0
2899533 몸이 아프질 말아야.. 모든게 의미가 있는거지 [9] 나르시갤로그로 이동합니다. 10.30 65 0
2899531 나 현역때는 기억에 의존하는 개발하기 싫어했는데 [8] chironpractor갤로그로 이동합니다. 10.30 86 0
2899529 너네 근데 깃 명령어 같은거 다 외우냐 [4] ㅆㅇㅆ(124.216) 10.30 89 0
2899526 코드 짜는건 클리셰쓰듯이 해야하는거 아닐까 싶다 항상 [2] ㅆㅇㅆ(124.216) 10.30 63 0
2899525 11시에 일어나서 밍기적대니 지금이네 ㅆㅇㅆ(124.216) 10.30 51 0
2899524 나 칫과 가는데 응원 좀 해주라 ㅠㅠ [8] 나르시갤로그로 이동합니다. 10.30 88 1
2899522 쌀 소고기 방어했다니까 진짠줄 알더라 chironpractor갤로그로 이동합니다. 10.30 71 1
2899521 무릎 아파... 그냥 지나가 .. 넥도리아(223.38) 10.30 68 0
2899520 나는 c cpp도 잘모름 [2] 배구공(119.202) 10.30 90 0
2899519 ❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤ [2] ♥램프의냥덩♥갤로그로 이동합니다. 10.30 77 0
2899518 [대한민국] 김용현 장관 재판 내용 일부 프갤러(121.172) 10.30 44 0
2899517 요즘 써보는 AI 챗봇 중에 쓸만한 거 발견한 후기(무료 팁 포함) 프갤러(1.212) 10.30 55 0
2899516 ㅆㅇㅆ가 만든 타로 사이트 고졸이 하루아침에 만드는 정도인데 ㅇㅇ(121.140) 10.30 108 5
2899515 내가 병렬 프로그래밍 때문에 피시방 가야겠다 ㅠ [3] 프갤러(222.97) 10.30 98 0
2899514 대학원 자퇴하고 싸피나 오토에버 임베디드 가는거 어케 생각? [8] 프갤러(117.111) 10.30 146 0
2899513 [두산로보틱스] 로키부트캠프 AI·로봇 엔지니어 양성과정 7기 모집 (~ 프갤러(14.32) 10.30 70 0
2899512 와 ㅋㅋ [5] 에이도비갤로그로 이동합니다. 10.30 115 0
2899511 간혹 희안한 사상을 가진 애들이 있네 [9] 루도그담당(211.184) 10.30 172 0
2899510 흠.. 컨디션 조절이 가장 힘듬 미세조정 [2] ♥벼락부자냥덩♥갤로그로 이동합니다. 10.30 82 0
2899509 자라 ㅇㅅㅇ [1] 헤르 미온느갤로그로 이동합니다. 10.30 58 0
2899508 근데 이재용도 이재명 빨다가 [1] 프갤러(175.212) 10.30 154 0
2899507 이제 우라나라도 핵잠 보유하는거냐? [2] 루도그담당(118.235) 10.30 97 0
2899506 아버지 수술하셔서 스트레스 받는데 아하 까지 날 건드려서 짜증남. 넥도리아2025(14.35) 10.30 55 0
2899505 침대 뭐삼 병원에서 쓰는 침대 에이스는 너무 비싸고, 넥도리아2025(14.35) 10.30 47 0
2899504 또 하나의 원종이가 각성했다기 보다 프갤러(175.208) 10.30 75 0
2899503 공원 ㅇㅅㅇ [1] 헤르 미온느갤로그로 이동합니다. 10.30 58 0
2899501 ㅈ됐다 또 하나의 원종이가 각성했다 프갤러(39.7) 10.30 79 0
2899500 태연 ㅇㅅㅇ 헤르 미온느갤로그로 이동합니다. 10.30 42 0
2899499 하루 한 번 헤르미온느 찬양 헤르 미온느갤로그로 이동합니다. 10.30 60 0
2899497 이런 회사도 있네 ㅇㅇ(106.101) 10.30 64 0
2899496 사실 ㅆㅇㅆ가 지금 행복한 이유도 [1] 프갤러(175.212) 10.30 100 4
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

디시미디어

디시이슈

1/2