디시인사이드 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[정보/뉴스] 이번 구글 발표에서 주목할만한 기능 컨텍스트 캐싱

ㅇㅇ갤로그로 이동합니다. 2024.05.15 18:44:04
조회 342 추천 2 댓글 4
														

7cf3c028e2f206a26d81f6ed4e817168df

현 AI모델들은 실시간 지속학습을 안하기 때문에 기억력이라고 할만한게 없음


예를 들어 모델과 토론을 하며 문답을 100번 주고 받았고 내가 101번째 질문을 하면 


모델은 101번째 답변을 위해 과거의 모든 100개 문답을 다시 읽고 답해야함


다른 예를 들어 긴 문서를 업로드하고 질문하면 모델은 매 답변마다 문서를 통째로 다시 읽어야됨


이 방식은 컨텍스트가 길어질수록 많은 연산을 소모하고 비효율적임


하지만 컨텍스트 캐싱(Context caching)을 이용하면 한번 읽은 컨텍스트를 다시 읽을 필요가 없음


어떻게 보면 영구적인 단기기억이라고 볼수 있을듯


물론 컨텍스트를 처음 저장하고 유지하는데 비용이 들고 아직은 약간 비싸보임


그래도 근미래엔 컨텍스트 한계는 별 문제가 아니게 될거란 생각이 듬


7ff3c028e2f206a26d81f6e44680716ffb

(https://ai.google.dev/gemini-api/docs/caching?hl=ko)

자동등록방지

추천 비추천

2

고정닉 0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2868 설문 힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는? 운영자 24/06/10 - -
486701 일반 선형충들아 과도기는 짧을수록 좋다 [5] ㅇㅇ갤로그로 이동합니다. 06.05 177 0
486700 일반 지금 왜캐 호들갑이냐 머 나왔냐 ㅇㅅㅇ [1] 초코냥갤로그로 이동합니다. 06.05 262 0
486699 일반 진짜 딱 10년만 늦게 태어났다면 좋았을껄 [4] ㅇㅇ(133.106) 06.05 223 1
486698 일반 존버913일차 alphaca갤로그로 이동합니다. 06.05 55 0
486696 일반 2029 감대리갤로그로 이동합니다. 06.05 84 0
486695 일반 생각 토큰이 필요하다 [2] ㅇㅇ(119.202) 06.05 77 0
486694 일반 Gpt 배경대화 언제생긴거야? [1] ㅇㅇ(125.135) 06.05 151 0
486693 일반 구글을 무시할수없는 이유(치타) [2] ㅇㅇ(138.199) 06.05 305 2
486692 일반 회계 [1] 호루스의시대갤로그로 이동합니다. 06.05 136 1
486691 일반 gpt 4o 결제하면 [1] ㅇㅇ(39.116) 06.05 167 0
486690 일반 오픈AI 유튜브에 올라온 캐릭터 보이스 [4] ㅇㅇ(210.178) 06.05 447 5
486689 일반 2027 AGI확정인거네? 퇴사할께? [4] ㅇㅇ(133.106) 06.05 336 1
486688 일반 형들 ai발전으로 실제로 좋은일이 생기긴하나요? [7] ㅇㅇ(211.36) 06.05 349 0
486685 일반 그럼 혹시나 였는데 역시나 였구만 [1] ㅇㅇ(175.192) 06.05 353 0
486684 일반 GPTs 없어졌는데 나만 그럼? [2] ㅇㅇ(119.193) 06.05 272 0
486683 일반 음성대화 목소리 바뀌었는데? [3] ㅇㅇ(121.131) 06.05 395 0
486682 일반 GPT-4o4 초존도초갤로그로 이동합니다. 06.05 176 0
486681 정보/ LLM이 고유의 "생각 언어"를 갖게 하는데 성공함 [7] ㅇㅇ(119.202) 06.05 922 10
486680 AI창 Gemini가 번역한 역사 고전 도입부 [4] ㅇㅇ(220.124) 06.05 318 2
486679 일반 노화의 원인이 성관계라던데 [23] ㅇㅇ갤로그로 이동합니다. 06.05 648 0
486678 일반 Openai 영상 업로드 ㅇㅇ(58.225) 06.05 219 0
486677 정보/ 현 OAI 직원, "서명한 놈들 취소해!" [3] ㅇㅇ(119.77) 06.05 722 4
486676 정보/ 전현직 OAI 직원 11명, "첨단 인공지능에 대해 경고할 권리" [17] ㅇㅇ(119.77) 06.05 2156 17
486675 일반 이 부분 진짜 섬뜩하네 ㅇㅇ(119.202) 06.05 590 3
486674 정보/ OAI 퇴사자들의 바뀐 AGI 타임라인 [8] ㅇㅇ(119.77) 06.05 1003 9
486673 일반 살면서 중국한테 유일하게 고마웠던점 ㅇㅇ(175.213) 06.05 302 7
486672 일반 딥마인드 연구원"2027 agi " [2] ㅇㅇ갤로그로 이동합니다. 06.05 378 1
486671 일반 ‘죽음은 신의 섭리이거늘…! 카악 퉤이~!’를 과학적으로 번역해 봅시다 [3] ㅇㅇ(175.192) 06.05 249 0
486670 일반 GPT복구언제됨? [1] ㅇㅇ(183.101) 06.05 169 0
486669 정보/ 차세대 모델 진짜 개쩌나보다... [3] ㅇㅇ(119.77) 06.05 852 3
486668 일반 의료 ai 만든 의사분 귀여우시네 ㅋㅋㅋ ㅇㅇ갤로그로 이동합니다. 06.05 258 1
486666 일반 레오폴드 작별인사 파트에서 인상적이었던 문구 [6] 모브갤로그로 이동합니다. 06.05 370 3
486665 일반 현재 기준 목소리 제일 잘 카피하는게 일레븐랩스임? [1] ㅇㅇ(211.105) 06.05 158 0
486663 정보/ 이 글을 일리야 수츠케버에게 바칩니다 [3] ㅇㅇ(119.77) 06.05 346 6
486662 일반 근데 말 끊을 수 있게 만드는 거 어려움? [12] ㅇㅇ(119.202) 06.05 339 0
486660 일반 한국이 여러모로 유리하네 [7] ㅇㅇ(124.111) 06.05 434 2
486659 일반 새 openai 영상 보니까 ㅇㅇ(59.6) 06.05 254 0
486658 일반 특붕이들이 간과하는거 → 중국 [24] ㅇㅇ(116.39) 06.05 518 4
486657 일반 젠슨황 소신발언 [1] ㅇㅇ(175.120) 06.05 220 0
486656 일반 지금 삶이 지옥이면 영생, 역노화 반대할수도 있겠더라 [10] lightvector갤로그로 이동합니다. 06.05 392 2
486655 일반 발전방향이 존나 바람직하긴하네 [2] ㅇㅇ갤로그로 이동합니다. 06.05 297 0
486654 일반 GPT가 없으니까 Ad_Astra갤로그로 이동합니다. 06.05 117 0
486653 일반 현재로선 영생 하지 말아야 할 이유가 약간 더 있다고. ㅇㅇ(175.192) 06.05 139 0
486652 일반 gpts에 4o 적용됐나 [1] ㅇㅇ(59.6) 06.05 223 0
486651 일반 Gpt 그냥 맛탱이가 간거 같은데? 어려운거 물어본 것도 아닌데 뺑뺑돔 ㅇㅇ(112.161) 06.05 114 0
486649 일반 2030년이 되면 수십억명의 초인적인 ai 에이전트가 돌아다닐것 ㅇㅇ갤로그로 이동합니다. 06.05 167 0
486648 일반 인간에게 아마 영생은 오지않겠지 [8] ㅇㅇ(1.249) 06.05 273 0
486647 일반 근데 전유물론이라도 특이점 오는게 횔 날걸 ㅇㅇ갤로그로 이동합니다. 06.05 77 0
486646 일반 진짜 앞으로 죽지만 않으면 인생 존나 편해질거다 [3] ㅇㅇ갤로그로 이동합니다. 06.05 371 0
486643 일반 모바일 앱에서 렉걸리는데 나만그래? [6] ㅇㅇ(116.127) 06.05 252 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2