모델 경량화가 생각보다 파괴력 높은게 파인튜닝임

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 모델 경량화가 생각보다 파괴력 높은게 파인튜닝임

ㅇㅇ(110.145) 2024.04.22 00:12:45

조회 239 추천 1 댓글 4

gpt-3.5 175b 이런거 오픈소스로 풀었다 쳐도

이거 파인튜닝 무슨수로함? 집에 a100 20대 갖춘것도 아닌데

라마는 처음부터 7b모델을 내고 있는데

이게 집에서 3090 4090으로 파인튜닝 돌릴수 있는 사이즈임

이렇게 저렇게 해보고 결과 허깅에 올리고 arxiv에 논문 올리고

지금 누가 그록1 파인튜닝을 함? 라마3 8b로 이거저거 해보는 개인 엄청나게 나올거지

이게 경량모델의 강점임

(사실 나도 이거저거 로라도 만들어보고 튜닝해서 로라 머지도 해보고 해봤음 나? 코딩능력 0임 ㅋ)

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2863	설문	시세차익 부러워 부동산 보는 눈 배우고 싶은 스타는?	운영자	24/05/27	-	-
469444	일반	조 됐다 개발자 게임오버	TS망상	05.14	50	0
469443	일반	난 이걸로 만족못해	ㅇㅇ	05.14	26	0
469442	일반	캬 데스크톱 비서 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ	05.14	19	0
469441	일반	이게 뭐냐ㅋㅋㅋ her 보면서도 에이 저게 언제 나와 [2]	ㅇㅇ(211.177)	05.14	73	0
469440	일반	걍 속도좀 빨라진게 다잖아 ㅋㅋㅋㅋㅋㅋ	ㅇㅇ	05.14	60	0
469439	일반	와 시발 머냐 이건????	ㅇㅇ(175.213)	05.14	31	0
469437	일반	근데 벤치가 레알이면 이걸 무료로 푸는게 말이되나? [2]	ㅁㄴㅇ(222.112)	05.14	54	0
469435	일반	역사냐ㅠ이거ㅠ진짜???	ㅇㅇ	05.14	23	0
469433	일반	와 데스크톱모드 씨발	ㅇㅇ(118.33)	05.14	52	0
469432	일반	난씨발일본어하는여친필요하다고!!!!!!!!! [4]	ㅇㅇ(1.243)	05.14	70	0
469431	일반	헐 미친 ㅋㅋㅋㅋ	ㅇㅇ	05.14	105	0
469430	일반	에이전트 각이냐???	이세이미야케	05.14	21	0
469429	일반	시연 목소리가 게이남성이나 흑인녀 아니라서 다행 ㅇㅈ?	ㅇㅇ(211.179)	05.14	25	0
469428	일반	이때까지 볼 만한 건 이 정도임.txt [3]	ㅇㅇ(58.124)	05.14	181	1
469427	일반	아이폰으로 하고있어서 애플 주가오름 ㅋㅋㅋㅋㅋ	ㅇㅇ(121.186)	05.14	53	0
469426	일반	이게 전반부 하이라이트네 ㄹㅇ;	ㅇㅇ(211.213)	05.14	88	0
469425	일반	저걸 단순 tts로 보는 바보들 읍제?	ㅇㅇ(121.155)	05.14	65	0
469424	일반	콜센터 싹 다 퇴직시켜 ㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(58.226)	05.14	18	0
469423	일반	세상에 영화가 현실이 됐네 ㅋㅋㅋㅋ her 실현	ㅇㅇ(112.156)	05.14	46	0
469422	일반	컴퓨터 입갤 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(121.162)	05.14	24	0
469420	일반	진심으로 사람이랑 구분이 전혀 안됨	ㅇㅇ	05.14	66	1
469419	일반	저 정도 감정표현으로 통역해준다고 생각해봐 시장삭제임	ㅇㅇ(218.39)	05.14	33	0
469417	일반	음성인식 속도도르는 에바잖아 씨발 ㅋㅋㅋㅋㅋㅋ [1]	비닌	05.14	146	1
469416	일반	현실) 5번 대화하면 다음날 이용가능	ㅇㅇ(218.153)	05.14	42	0
469415	일반	와 목소리 미쳤다..	ㅇㅇ	05.14	16	0
469414	일반	agi는 모르겠고 전자여친은 하겠노	ㅇㅇ(115.139)	05.14	16	0
469413	일반	신 [3]	FIREKICK	05.14	100	1
469412	일반	개근들갑떨 이유 있었으면 개추 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [1]	ㅇㅇ	05.14	61	1
469411	일반	미친 영화 장면 아니지?	ㅇㅇ(218.147)	05.14	30	0
469410	일반	콜센터랑 교사들 좆됐는데 이거	ㅇㅇ(112.156)	05.14	31	0
469409	일반	이거 구라 아니냐?? 세상이 날 몰카하는거임	ㅇㅇ(211.241)	05.14	42	0
469408	일반	씨발 이게 HER 아니면 뭐가 HER냐고 ㅋㅋㅋㅋ [1]	ㅇㅇ	05.14	113	0
469407	일반	한국어도 저만치 해줄까???	ㅇㅇ(121.128)	05.14	16	0
469406	일반	아니 그래서 오나홀연동되냐고❗+❗+❗+❗+ [1]	ㅇㅇ(121.175)	05.14	48	0
469405	일반	중간에 뻘소리 나오는 거 보니까 아직 멍청하네	ㅇㅇ(124.55)	05.14	35	0
469404	일반	와 미쳤다..	웰빙킴	05.14	17	0
469402	일반	아니 방금 끊기는거 이상한데? 편집아니냐?? [5]	ㅇㅇ	05.14	110	0
469401	일반	상상 이상이네 ㄷㄷ	ㅇㅇ(122.42)	05.14	20	0
469399	일반	와 웃는거 봐라 사만다인데??	ㅇㅇ(14.37)	05.14	21	0
469398	일반	콜센터 좆됐노 ㅋㅋㅋㅋㅋ	ㅇㅇ(112.156)	05.14	31	0
469397	일반	애들아 말투는 아직 ai 같다... 제발 영어 못하는 티 내지마라 [2]	ㅇㅇ	05.14	100	0
469396	일반	비음내면서 앙탈부리는거뭔데 시발련아 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	솔.이☆	05.14	44	0
469395	일반	다른걸 떠나서 속도가 좆오오오오나 빠르네 ㅋㅋ	ㅇㅇ(59.17)	05.14	22	0
469393	일반	와.. 아이러브 챗지피티	ㅌㅇㅇ(118.32)	05.14	19	0
469392	일반	로봇 누나 원툴은 좀	Singnice	05.14	21	0
469391	일반	외 시발ㅋㅋㅋㅋㅋㅋㅋ기뻐하는거보니 내가 다 기쁘네 ㅋㅋㅋ	ㅇㅇ(121.124)	05.14	40	0
469389	일반	와 ㅋㅋㅋ 감정보소	fwaf(14.50)	05.14	20	0
469388	일반	와 방금 감탄 ㅋㅋㅋㅋㅋ	ㅇㅇ(211.62)	05.14	26	0
469387	일반	유사 연애입갤ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(218.153)	05.14	30	0
469386	일반	걍전자여친맞는데	ㅁㄱㅌㅊ(39.122)	05.14	25	0