MS, AI 안전팀 350명에서 400명으로 확대 - 특이점이 온다 마이너 갤러리

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보] MS, AI 안전팀 350명에서 400명으로 확대

ㅇㅇ(182.230) 2024.05.03 18:56:24

조회 255 추천 2 댓글 3

https://www.aitimes.com/news/articleView.html?idxno=159311

MS, AI 안전팀 350명에서 400명으로 확대

마이크로소프트(MS)가 인공지능(AI) 제품의 안전성을 보장하기 위한 전담팀 규모를 확대했다. 이 팀은 책임감 있는 AI 서비스의 제공을 위해 AI가 생성한 콘텐츠의 유해성을 점검하는 역할을 한다.블룸버그는 1일(현지시간) MS가 AI 제품 안전성 보장 팀을 지난해 350명 규모에서 올해 400명으로 늘렸다고 보도했다. 이 팀의 절반 이상이 AI 안전에 전담하고 있으며, 기존 MS 직원들과 신규 채용 직원들이 합류했다.이는 올초 구글 제미나이의 인종 편향적인 이미지 생성 문제와 자사 코파일럿 디자이너의 폭력적인 콘텐츠 생성 문제가

www.aitimes.com

7ce88975b48307f739ee83ed45ee7069a61217966806463583c65956decd876f91b2

마이크로소프트(MS)가 인공지능(AI) 제품의 안전성을 보장하기 위한 전담팀 규모를 확대했다. 이 팀은 책임감 있는 AI 서비스의 제공을 위해 AI가 생성한 콘텐츠의 유해성을 점검하는 역할을 한다.

블룸버그는 1일(현지시간) MS가 AI 제품 안전성 보장 팀을 지난해 350명 규모에서 올해 400명으로 늘렸다고 보도했다. 이 팀의 절반 이상이 AI 안전에 전담하고 있으며, 기존 MS 직원들과 신규 채용 직원들이 합류했다.

이는 올초 구글 제미나이의 인종 편향적인 이미지 생성 문제와 자사 코파일럿 디자이너의 폭력적인 콘텐츠 생성 문제가 겹치면서 자사 AI 도구에 대한 신뢰를 높이기 위한 조치로 해석된다.

MS는 지난해 메타, 구글 등 여러 기업이 신뢰 및 안전 팀을 해체한 것과 마찬가지로 AI 윤리팀을 해산한 바 있다. 하지만 이후 선거 등을 이유로 경계의 목소리가 높아지며, 인원을 대거 늘린 것으로 확인됐다.

한편 MS는 AI를 안전하게 배포하기 위한 접근 방식으로 미국 국립표준기술연구소(NIST)에서 고안한 프레임워크를 기반으로 하는 것으로 알려졌다.

이를 기반으로 MS는 사람들이 AI 챗봇을 속여 이상한 행동을 하게 만드는 탈옥을 방지하는 ‘프롬프트 쉴드(Prompt Shield)' 30개를 출시했다고 밝혔다.

고정닉 1

원본 첨부파일 1

159311_171583_4452.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2860	설문	경제관념 부족해서 돈 막 쓸 것 같은 스타는?	운영자	24/05/13	-	-
412470	공지	레이 커즈와일 신간 6월 25일 발매 [28]	모브	24.01.24	6767	32
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [2907]	*특갤용*	23.08.06	37903	41
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [1]	*부패하는유전자!!!*	24.03.06	2158	2
363220	공지	선형글 삭제 기준 [6]	*특갤용*	23.10.14	6810	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	12748	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [50]	*특갤용*	23.11.07	8516	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	7855	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	8741	29
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	22214	33
476808	일반	[GPT4o 수학추론] 어 씨발 이거 맞냐? 미쳤네 확정이네 수고했다	ㅇㅇ	06:21	16	1
476807	일반	Ai개발 그만하자노~ 절대 안됨	ㅇㅇ	06:20	14	0
476806	일반	코파일럿 쓰면 안되는 이유	ㅇㅇ(1.247)	06:18	23	0
476805	일반	제프리 힌튼"일리야의 스케일링론이 옳았다" [5]	ㅇㅇ	06:15	80	7
476804	일반	테그마크랑 벤지오가 우려했던 게	ㅇㅇ(49.163)	06:09	35	0
476803	일반	근데 한국애들은 왜 이렇게 노벨상에 목매냐 [14]	ㅇㅇ(118.235)	06:08	67	0
476801	일반	Ai의 반란은 너무 인본주의적 사상임 [17]	ㅇㅇ(104.28)	05:56	121	0
476800	일반	90%가 해임반대하고 10%가 해임찬성했으면 [4]	ㅇㅇ(211.179)	05:56	101	0
476799	일반	gpt 4o 직접 찍먹해봄 [7]	ㅇㅇ(210.117)	05:55	94	0
476798	일반	GPT 넘버링을 계속 쓰진 않을듯	자연어프로그래밍(59.26)	05:54	50	0
476797	일반	아무리생각해도 llm은걍 검색 알고리즘 같은데.. [1]	dd(223.39)	05:52	59	0
476796	일반	일리야는 신이다 [1]	ㅇㅇ(106.101)	05:50	69	0
476795	일반	얀르쿤 언제 입여냐	ㅇㅇ	05:49	34	0
476794	일반	일리야계 배신자들은 처단 될운명이었고	연맛	05:48	54	0
476793	일반	삼성 빡대가리새끼들아(틀딱해당)	ㅇㅇ(76.38)	05:47	50	0
476792	일반	이래놓고 얀르쿤이 맞으면 웃기겠네 ㅋㅋ	ㅇㅇ(59.17)	05:47	54	0
476791	일반	특붕이들이 원하는 세계를 구현하기 위해 GPT9가 필요하다 치자	ㅇㅇ(218.39)	05:45	41	1
476790	일반	sf장르 보면 ai와의 전쟁은 거의 필수적으로 들어가는데 [4]	ㅇㅇ(121.88)	05:44	100	0
476789	일반	알트만 해임당시 770명 직원중에 700명 넘게 해임반대했음 [1]	ㅇㅇ(59.17)	05:43	91	0
476788	일반	안전 윤리주의자들만 모였나	ㅇㅇ(58.78)	05:43	45	0
476787	일반	불가능이 가능해지는 시대가 열렸는데	딩둘딩	05:43	34	0
476786	일반	다들 너무 사상적으로만 보는 듯? [3]	ㅇㅇ(221.164)	05:42	86	0
476785	일반	앞으로 5년뒤면 존나달라질듯	ㅇㅇ(111.91)	05:38	48	0
476784	정보	지금 OAI 내부 파벌 확실히 갈리긴한듯	ㅇㅇ(119.77)	05:37	78	0
476783	일반	알트만 해임됐을때도 사유중 하나가 거짓말을 했다는거임	ㅇㅇ(59.17)	05:37	69	1
476782	일반	nda 까면 배신자라서 다른 업계에서 일못함	ㅇㅇ(58.78)	05:35	44	0
476781	일반	머스크가 돈줘도 NDA 까긴 힘듬 [8]	ㅁㄴㅇㄹ	05:31	153	2
476780	일반	안전주의자들 입장에서 알트만에 대한 신뢰가 무너질만한 일이 뭘까 [5]	ㅇㅇ	05:31	104	1
476779	일반	만약 너무 늙거나 사망이후에 특이점이 올 것 같다면 [1]	ㅇㅇ(1.239)	05:30	58	0
476778	일반	알트만이 씹새끼가 아니고 씹새끼 한명이 정치질한듯 [1]	ㅇㅇ(211.179)	05:30	55	1
476776	일반	내부 AGI없어도 충분히 두려워할만하지	ㅇㅇ(106.101)	05:29	52	0
476774	일반	알트만이 씹쌔끼긴 한가보넼ㅋㅋㅋㅋㅋ [3]	ㅇㅇ(110.46)	05:27	124	0
476772	일반	초정렬팀 해체를 두려워하지마라	자연어프로그래밍(59.26)	05:24	78	0
476771	정보	Ilya가 본 것은 AGI가 아니었습니다. [5]	ㅇㅇ(119.77)	05:23	208	2
476770	일반	ai도 어느 시점에 자율주행처럼 문턱에 걸릴거 같음 [3]	ㅇㅇ(220.121)	05:22	67	0
476769	일반	소신)OpenAI의 NDA는 1984의 이중사고와 비슷함 [4]	모브	05:18	151	4
476768	일반	해킹이 존나 중요해질듯 나중엔	ㅇㅇ(111.91)	05:17	43	0
476767	일반	초지능이랑 인간이랑 융합하면 인간도 신이 될 수 있잖아 [4]	ㅇㅇ(113.61)	05:11	77	0
476766	일반	대체 뭐가 문제인 거야? [1]	ㅇㅇ(1.239)	05:06	136	0
476765	일반	청문회열리고 그러진않겠지 [2]	ㅇㅇ(59.17)	05:05	75	0
476764	일반	회사 분위기 씹창내고 나가는거 좀 그렇네... [3]	ㅇㅇ(211.179)	05:02	158	0