디시인사이드 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 방금 하사비스랑 통화했다 (녹취록.txt)

ㅇㅇ(61.73) 2024.03.12 00:17:57
조회 2138 추천 36 댓글 15
														



1ebec223e0dc2bae61abe9ed58c12a3aab16bc643ec84ffe4804ab94


하사비스: 오 형 왠일이에요?


나: 야, 스케일이 전부인 건 맞냐?


하사비스: 하... 그게 좀 복잡해요 형. LLM 스케일링으로만 그렇게 성능이 좋을줄은 몰랐는데 OAI가 선빵을 날리는 바람에 순다르 피차이가 개지랄 떨어서 다른팀에 있는 인력 LLM으로 다 옮겨놨어요. 근데 웹에 있는 유용한 데이터는 거의 다 크롤링 해서 때려 박았거든요. 근데 OAI랑 앤트로픽 놈들은 믿거 디시인사이드 데이터 같은 것도 다 때려박더니 성능이 더 잘 나오는 거 같아요.


나: 야, 그럼 그냥 무조건 다 때려박으면 되는 거야?


하사비스: 아뇨.. 추론이 안돼요. 파라미터, 데이터셋 늘리면 정확도는 높아지는데 이게 좀 있으면 한계가 올 거 같아요.


나: 그럼 뭐 다른 대비책이 있어?


하사비스: 하.. 지금 우리 딥러닝팀, 뉴로팀, 알파팀도 돌려야 되는데 순다르 피차이가 인원 줄이고 뒤집어 엎어놔서 LLM 밖에 집중을 못해요.


나: 순다르 그 놈은 왜 지랄인데?


하사비스: 형, 챗GPT 브라우징 지원인데 성능 좋아지면 사람들이 구글검색엔진 대신에 챗GPT를 쓸거에요. 챗GPT에 쇼핑도 연결해서 그걸로 물품 구매도 할 거구요. 그래서 구글광고매출 나락가면 우리 회사 망해요. 그래서 LLM 빨리 역전시키라고 한 거에요.


나: 그럼 니들도 스케일링에 한계가 있다는 걸 알면서도 울며 겨자먹기로 LLM에 올인한다는 거야?


하사비스: 당근이죠. 이건 AI 좀 친다는 사람들은 대충 알아요. 근데 회사의 생사를 떠나서 LLM쪽이 바이럴뽕을 맞으니깐 AI전문가들이 다 그쪽으로 가서 연봉 뻥튀기하려고 해요. 이력서에 넣기도 좋고요. 그리고 명색에 구글인데 LLM 밀린다고 소문나면 인재들 다 뺏겨요. 안그래도 지금 LLM 하러 간다고 많이 나갔어요.


나: 야 그럼 니들은 그렇고 Meta 마크 저커버그는 왜 난리났냐 H100 엄청 사던데?


하사비스: 걔네들은 메타퀘스트 완몰가쪽이라서 LLM은 지들이 하기 싫어서 오픈소스주고 거기서 좋은거 줏어 먹겠다는 거고 완몰쪽 컨텐츠 만들려면 컴퓨팅 파워 엄청 필요해서 그런걸 거에요.


나: 야 그럼 머스크는 어때? 걔도 똥줄타냐?


하사비스: 머스크형은 우리랑은 좀 다를거에요. 그쪽은 비젼데이터는 많으니 나중에 옵티머스에 비젼데이터 넣고 LLM은 중소기업정도 인수해서 평타모델 정도 넣으려고 했을거에요. 아 맞다. 그 형이 OAI 테슬라로 흡수해서 그 LLM 쓰려고 했는데 막혔죠? 뭐 그래도 옵티머스 초기모델에 평타 LLM 정도만 넣어도 말장난 쳐주고 괜찮지 않을까요?


나: 근데 그놈도 Grok이니 뭐니 막 만들던데?


하사비스: 아 그건 아마 저희처럼 최고 테크기업의 위상을 유지해서 인력이탈 방지도 해야되고요. 그리고 형도 아시잖아요. 그 형 요즘 트위터 중독에 정치에 빡쳐있어요. 그 형은 알트만을 PC충으로 보기 때문에 그쪽에서 나온 LLM이 판치는 꼴을 보기 싫을 거에요.


나: 야 근데 테슬라에 있던 안드레이 카파티 작년에 OAI 갔다가 지난달에 퇴사했던데 그러면 GPT-5 별거 없다는 거 아니냐?


하사비스: 까봐야 알 거 같아요. OAI안에서 뭘 하는지 저도 잘 몰라요. 카파티는 테슬라에 있다가 온거라서 알트만이 쁘락치로 간주하고 일리야 팀에 안 껴주지 않았을까요? 뭐 좀 구경해보려고 갔는데 안 보여주니깐 빡쳐서 나갔을 수도 있죠. GPT-5는 성능을 봐야될 거 같아요. 보이스, 레이트리미트, Sora 맛보기 뭐 여러가지 잡기능을 많이 넣었다면 모델만의 성능은 그렇게 안 올라갔을 수도 있고 잡기능 별로 안 추가했으면 모델성능이 좋아졌을 수도 있겠죠.


나: 암튼 너네 요즘 특이점갤에서 발사대 역할로 조롱당하고 있으니깐 좀 분발해봐.


하사비스: 저희가 발사대라고요??? OAI가 발사대에요 형. 그 놈들이 LLM 경쟁을 시작했어요. 우리는 다른 무기가 많아요. 곧 보시게 될거에요.


나: 수고가 많다. 근데 확실하냐?



하사비스: 저희는 치타예요.





떡밥 별로 없어서 소설 써봤다.

추천 비추천

36

고정닉 7

원본 첨부파일 1

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2853 설문 연인과 헤어지고 뒤끝 작렬할 것 같은 스타는? 운영자 24/04/22 - -
452169 정보 "2년 내 LLM 학습 데이터 고갈... AI 발전 중단될 것" [41] ㅇㅇ(182.230) 04.02 4973 28
452168 정보 구글, LLM 답변을 검색으로 확인하는 'SAFE' 개발 [7] ㅇㅇ(182.230) 04.02 1715 18
452167 정보 로봇 경찰견, 사람 대신 총 맞아..."인명 피해 방지" [23] ㅇㅇ(182.230) 04.02 2411 23
452163 정보 아마존, LLM '올림푸스' 올여름 출시... 매개변수는 예상 미만 [6] ㅇㅇ(182.230) 04.02 1380 17
452162 정보 오픈 소스 ‘미스트랄 7B v0.2’ 출시..."라마 2 능가" [3] ㅇㅇ(182.230) 04.02 1202 17
452155 정보 애플, 화면 맥락을 보고 이해할 수 있는 AI 개발 [8] ㅇㅇ(182.230) 04.02 2307 19
452114 일반 특갤이 openAI 지지하는 갤인 이유 [39] ㅇㅇ(175.206) 04.02 3112 45
452094 일반 ??? : ai 작곡으로 유행시킨거 하나라도 갖고와라 [28] ㅇㅇ(223.39) 04.02 3947 33
452024 정보 뇌를 모방한 AI 알고리즘을 찾아서, Hopfield 네트워크 [11] ㅇㅇ(182.230) 04.02 1977 23
452018 정보 IBM의 최신 뉴로모픽 칩 NorthPole [7] ㅇㅇ(182.230) 04.02 1621 27
451975 정보 MIT, LLM 속 지식 저장위치 찾아내는 방법 발견, 환각문제 개선가능 [18] 니지카엘갤로그로 이동합니다. 04.02 2266 23
451963 일반 근데 이미 본 떡밥이여도 굉장히 치명적인데? [4] ㅇㅇ(220.93) 04.02 1683 17
451923 토의 특이점을 위해서는 기술발전은 체감되지 못해야한다 [69] ㅇㅇ(1.230) 04.02 3966 66
451905 정보 기존 광섬유를 활용하여 450만배 빨라진 데이터 전송 성공 [38] 은바다갤로그로 이동합니다. 04.02 2983 22
451888 일반 작곡가 김형석 "suno 로 만든곡이 공모전 1위" ㄷㄷ [28] ㅇㅇ갤로그로 이동합니다. 04.02 3467 28
451881 일반 진짜 특갤 정보차이 너무 심한데 [25] ㅇㅇ갤로그로 이동합니다. 04.02 3829 32
451845 일반 정전갤된 김에 알트만의 포지션(?)을 알아보자 [34] ㅇㅇ(1.230) 04.01 2571 25
451840 정보 DARPA, "발전속도가 느려지고 있다" [36] ㅇㅇ(222.120) 04.01 4521 26
451792 정보 우리은하 중심 블랙홀 이미지 공개 [9] ㅇㅇ(125.142) 04.01 2924 19
451661 일반 AI 아티스트 이아 싱글 컨셉 공개 [17] ㅇㅇ(112.163) 04.01 3487 22
451633 정보 딥마인드CEO “AI 투자 광풍이 과장과 사기 불러” [13] 특술람갤로그로 이동합니다. 04.01 2601 24
451607 정보 OpenAI, 아시아 최초의 거점 일본에서 서비스 [12] 특술람갤로그로 이동합니다. 04.01 3150 21
451558 일반 클로드 이새끼 뭐임 [37] ㅇㅇ갤로그로 이동합니다. 04.01 4256 37
451538 정보 인류 역사상 AI가 인간 살상한 첫 전투 벌어졌다 [39] ㅇㅇ갤로그로 이동합니다. 04.01 3964 33
451509 일반 와 미친.. gpt5 진짜 이정도라고? 혁명 수준인데? [43] ㅇㅇ갤로그로 이동합니다. 04.01 6665 30
451505 정보 최근들어 나타나는 Ai기술의 공통점 [24] 테이리갤로그로 이동합니다. 03.31 3223 35
451502 일반 샘 알트만이 말하는 GPT5 성능 [35] 내복맨갤로그로 이동합니다. 03.31 5610 49
451477 일반 샘 알트만 인터뷰 [7] ㅇㅇ(222.119) 03.31 2908 31
451392 정보 하루 만에 오픈소스 최고 성능 넘어...삼바노바, MoE 방식 모델 출시 [1] 니지카엘갤로그로 이동합니다. 03.31 1392 17
451161 정보 짐 켈러 : 반도체 물리적 한계는 극복 가능 [34] ㅇㅇ­갤로그로 이동합니다. 03.31 4494 27
451218 일반 sora 새영상 미쳤네 [17] ㅇㅇ갤로그로 이동합니다. 03.31 2704 22
451217 정보 기억은 DNA를 부수고 수리하면서 만들어진다.nature [16] ㅇㅇ(182.230) 03.31 2757 24
451208 정보 목재 잉크로 3D 프린팅된 목재 제품 [3] ㅇㅇ(182.230) 03.31 771 14
451207 정보 개인용 '투명 보호막', 70달러 미만부터 판매 시작 [9] ㅇㅇ(182.230) 03.31 1571 18
451199 정보 다리 6개 달린 쥐 배아 만들었다 [6] ㅇㅇ(182.230) 03.31 1054 21
451016 정보 달에 철도를 건설한다.darpa [17] ㅇㅇ(182.230) 03.30 3104 28
451051 정보 KBS 짐 켈러 3/29일자 최신 인터뷰 [16] ㅇㅇ­갤로그로 이동합니다. 03.30 1867 20
451126 역노화 노화된 면역체계 젋게 만드는 법 찾았다 [23] ㅇㅇ갤로그로 이동합니다. 03.31 1854 25
451030 일반 로이터 Open AI 다음모델 내년초 출시 기사 수정되었음. [14] ㅇㅇ(121.128) 03.30 2960 21
451027 정보 MS 코파일럿 AI를 위해서는 40TOPS 이상의 NPU가 필요 [1] ㅇㅇ(182.230) 03.30 1356 14
451026 일반 Gpt5 내년이라고?ㅋㅋㅋ [2] ㅇㅇ갤로그로 이동합니다. 03.30 2235 23
451004 일반 오픈AI, Dall-E 3 업데이트 [17] ㅇㅇ(121.128) 03.30 3436 34
450989 정보 코드명 스타게이트와 헬리온 관련 추가 정보 [10] 모브갤로그로 이동합니다. 03.30 2005 29
450969 일반 언어 모델에 수학 능력 기대하지 마라 [25] ㅇㅇ(59.8) 03.30 3904 50
450930 정보 GPT5벌써 베타테스트하네 대기자받고있네 [7] ㅇㅇ(112.165) 03.30 652 10
450928 일반 비트넷 추가적인 재현 시도 [30] ㅇㅇ(141.223) 03.30 2597 48
450909 일반 전유물 사회는 절대 성공할수 없음. 역사가 그렇게 말함. [19] ㅇㅇ갤로그로 이동합니다. 03.30 1440 26
450793 일반 한때 수백억대 연봉 AI 연구원, "이제는 치킨집 사장이에요" [11] ㅇㅇ(211.200) 03.30 4132 72
450784 정보 아마존, 클로드 잡는 올림푸스 출격예정 [6] ㅇㅇ(61.108) 03.30 294 10
450759 일반 테슬라 옵티머스 라이브데모 연기됐네 ㅅㅂ ㅋㅋ ㅇㅇ(121.149) 03.30 931 20
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2