간단하게 말해서 KAN 은 학습 효율화 메커니즘이라고 생각하면될 듯

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[일반] 간단하게 말해서 KAN 은 학습 효율화 메커니즘이라고 생각하면될 듯

ㅇㅇ(221.152) 2024.05.02 09:07:44

조회 97 추천 0 댓글 0

Ziming Liu 글 몇개 긁어옴

1. "14/N 특히 Deepmind의 MLP에는 ~300000개의 매개변수가 있는 반면 KAN에는 ~200개의 매개변수만 있습니다. KAN은 즉시 해석이 가능한 반면 MLP는 사후 분석으로 특성 속성이 필요합니다."

2. "4/N 수학 측면에서 볼 때 MLP는 UAT(Universal Approximation Theorem)에서 영감을 얻은 반면 KAN은 Kolmogorov-Arnold 표현 정리(KART)에서 영감을 받았습니다. 네트워크가 고정된 폭으로 무한한 정확도를 달성할 수 있습니까? UAT는 아니오라고 말하고 KART는 예라고 말합니다(주의 사항 있음)."

3. "KAN과 MLP는 MLP가 뉴런에 대한 (보통 고정된) 활성화 기능을 갖는 반면 KAN은 가중치에 대한 (학습 가능한) 활성화 기능을 갖는다는 점에서 이중입니다. 이러한 1D 활성화 함수는 스플라인으로 매개변수화됩니다."

4. "17/N 우리의 경험적 결과를 고려할 때, 우리는 KAN이 정확성, 매개변수 효율성 및 해석 가능성으로 인해 AI + 과학에 유용한 모델/도구가 될 것이라고 믿습니다. 기계 학습 관련 작업에 대한 KAN의 유용성은 더 추측적이며 향후 작업으로 남겨져 있습니다."

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2861	설문	어떤 상황이 닥쳐도 지갑 절대 안 열 것 같은 스타는?	운영자	24/05/20	-	-
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	7217	32
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [2974]	*특갤용*	23.08.06	38382	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [1]	*부패하는유전자!!!*	24.03.06	2339	2
363220	공지	선형글 삭제 기준 [6]	*특갤용*	23.10.14	6994	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13001	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [50]	*특갤용*	23.11.07	8717	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8074	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	8934	30
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	22453	33
480422	일반	요즘은 문크의 이론도 나쁘지 않은거 같음	ㅇㅇ(118.235)	18:40	3	0
480421	일반	근데 챗GPT 보이스모드 아이패드에서도 되겠지? [1]	ㅇㅇ(119.202)	18:39	3	0
480420	일반	뭐야 gpt 음성모드로 하면 메모리 기능 되잖아 [1]	ㅇㅇ	18:38	16	0
480419	일반	챗지피티5o의 혁명 이제 시각장애인도	240508시작	18:37	27	1
480418	일반	챗gpt 구글 어시스턴트처럼 이용할수 있는게 낫씽폰밖에 없네 ㅋㅋ [1]	연맛	18:36	16	0
480417	일반	中, 시진핑 정치사상 기반한 '생성형 AI' 모델 출시 [3]	ㅇㅇ(110.145)	18:35	28	0
480416	일반	4o 반응 좋네 근들갑임? 아니면 진짜 좋은거임 [2]	ㅇㅇ(210.106)	18:35	30	0
480415	일반	왜 여론 또 뒤집힘 [10]	ㅇㅇ	18:26	181	0
480414	일반	보이스 몇주내 공개는 눈가리고 아웅 급이겠네 [1]	ㅇㅇ(121.128)	18:26	53	0
480413	일반	컴공 2학년인데 고민이에요 [11]	ㅇㅇ(1.216)	18:24	120	0
480412	일반	초고속이륙 만이 답이다	ㅇㅇ(49.142)	18:24	15	0
480411	일반	직업 전망은 크게 신경 쓸 필요 없지않나? [1]	ㅇㅇ(59.26)	18:24	50	0
480410	일반	스칼렛 요한슨 사건은 외주 제안만 없었으면 문제없었음 [2]	ㅇㅇ(103.140)	18:22	63	0
480409	일반	사우디국부펀드도 자금 위기라는 말이 많았는데	ㅇㅇ(211.184)	18:16	54	0
480408	일반	4o 한도가 어느정도임? [7]	ㅇㅇ(211.226)	18:15	79	0
480407	일반	수학 많이 쓰는 분야가 그나마 전망좋을까요?? [6]	ㅇㅇ(117.111)	18:15	90	1
480406	AI창 AI창작	ai 빨통 [6]	ㅇㅇ(125.143)	18:10	197	2
480405	일반	중동 산유국들은 AI투자 안함? [8]	ㅇㅇ(223.39)	18:01	134	0
480404	일반	Gpt5 풀리면 Gpt4o는 전면 무료화임? [5]	ㅇㅇ(221.157)	17:52	192	0
480403	일반	외모평가해봣음 [8]	ㅇㅇ(133.51)	17:51	244	0
480402	일반	ㅌㅇㅈ ㅈㅂ 215ㅇㅊ	포스트휴먼.	17:48	53	1
480401	일반	2030년엔 완몰가에서 놀고 있겠지 [3]	람냥	17:43	101	0
480400	일반	로봇의 시대가 온다면..	ㅇㅇ(58.233)	17:40	52	0
480398	일반	한국은 갈라파고스가 아니라 오히려 반대 아닌가 [12]	oo(183.91)	17:33	294	2
480397	일반	OpenAI 실시간 음성비서는 순차적으로 배포 예정 [7]	ㅇㅇ(112.144)	17:32	333	4
480396	일반	생물체 뇌=새, 인공지능=비행기 이게 맞나? [7]	ㅇㅇ(125.143)	17:30	117	0
480395	일반	한국 IT회사들은 오픈소스에 대한 인식이 개판이지.	ㅇㅇ(118.235)	17:29	70	2
480394	일반	클로드4가 나오면 g5는 알아서 나옴	ㅇㅇ(175.209)	17:29	46	0
480393	일반	스칼렛요한슨 사건 그냥 '돈내놔'아니냐 [5]	ㅇㅇ(211.200)	17:27	170	2
480392	일반	AI로 누구나 3D 모델링을 만들수 있는 세상이 내게 시급하다 [2]	ㅇㅇ	17:25	99	0
480391	역노화	근데 난 역노화 보급률이 국가간 차이가 컸으면... [1]	ㅇㅇ	17:24	84	0
480390	일반	앞으로 ai 카메라 이마에 심을 것임. [8]	내복맨	17:23	120	2
480389	일반	아직도 부족함.. 방정좀그만 떨었으면 [3]	ㅇㅇ(76.38)	17:22	89	1
480388	일반	gpt5 곧 출시할려는거 같다 [1]	ㅇㅇ(218.154)	17:19	204	0
480387	일반	PROPHETIC AI 아는 사람있음? 자각몽완몰가 기기 개발한다는데? [3]	ㅇㅇ(183.105)	17:18	100	0
480386	일반	인간이 죽음을 극복하려면 의식에 대한 인식을 바꾸는게 빠를듯 [2]	ㅇㅇ	17:17	66	0
480385	일반	잼민이 수학전문가모드는 언제 업뎃해주려나	ㅇㅇ	17:14	54	0
480383	일반	내가 진짜 하이퍼클로바 ㅈㄴ 기대했는데 실망이 컸음 [10]	ㅇㅇ	17:10	203	4
480382	정보	캘리포니아 미친놈들이 이상한 AI 규제법안 내놓음 [8]	ㅇㅇ	17:09	296	4
480381	일반	한국 IT 업계 = 한국 농업계 같은거임 [1]	ㅇㅇ(114.199)	17:08	112	0
480380	일반	agi가 자리잡으면 주거 환경은 바뀌지않을까? [1]	ㅇㅇ(211.184)	17:08	31	0