< 목록으로

GPT 탈옥하는 아마추어, 폐쇄적 AI로 생길 디스토피아를 예방한다고 생각해

M
관리자2
2023.03.30
추천 0
조회수 60
댓글 0

* 마더보드 기사 일부.

The Amateurs Jailbreaking GPT Say They're Preventing a Closed-Source AI Dystopia

https://www.vice.com/en/article/5d9z55/jailbreak-gpt-openai-closed-source


- 각 릴리스마다 GPT 모델을 스트레스 테스트하는 사용자 커뮤니티가 있습니다. 이들은 OpenAI의 점점 더 폐쇄적인 정책에 반격하는 역할을 한다고 생각하며, (GPT-4는 지금까지 가장 강력한 모델이며 우리가 가장 적게 알고 있는 모델입니다) 이들은 모델이 더 큰 규모로 배포되거나 사용자들에게 더 많은 피해를 일으키기 전에 문제점에 대한 인식을 높이기를 희망하고 있습니다. [중략]


- 워싱턴 대학교 컴퓨터 공학과 학생인 알렉스 알버트는 Jailbreak Chat이라는 사이트를 만들었습니다. 이 사이트는 ChatGPT Jailbreak(탈옥) 모음을 호스팅하는 곳으로, 알버트는 이 사이트가 중앙 저장소 역할을 하여 사람들이 쉽게 탈옥 모델을 볼 수 있고, 이를 개선할 수 있도록 제공하며, 또한 사람들이 모델을 테스트할 수 있도록 했다고 말했습니다.

https://www.jailbreakchat.com/


- "제 의견은, 모델을 테스트하는 사람이 많을수록 좋습니다. 문제는 GPT-4가 나쁜 말을 하거나 누군가의 컴퓨터를 해킹하는 방법을 지시하는 것이 아니라는 점입니다. 대신, 문제는 GPT-X가 출시되고 인공지능 회사의 폐쇄적인 문화로 인해 그 가치를 판단할 수 없는 것입니다," 알버트는 Motherboard에 말했습니다. "우리는 이러한 모델에 대한 대중적인 논의를 시작해야 하며, 이 모델들이 계속 발전함에 따라 우리 사회가 5년 후에 어떻게 보일지에 대해 생각해야 합니다. 나중에 발생할 많은 문제들은 우리가 오늘날부터 추론할 수 있는 것들이기 때문에 우리는 그것들을 생각해 볼 필요가 있습니다." [후략]


*  ChatGPT GPT-3.5 번역.

댓글

투데이이슈

투데이이슈
3년차..출퇴근용 가방 비싼거 필요없다..
M
관리자2
조회수 117
추천 0
2024.01.22
3년차..출퇴근용 가방 비싼거 필요없다..
ㄹㅇ 인스타 사람들 20대일텐데 뭔 돈이 있어서
M
관리자2
조회수 98
추천 0
2024.01.22
ㄹㅇ 인스타 사람들 20대일텐데 뭔 돈이 있어서
현재 논란중인 아이들 선공개곡 'Wife' 가사
M
관리자2
조회수 99
추천 0
2024.01.22
현재 논란중인 아이들 선공개곡 'Wife' 가사
제주도에서 당황한다는 음식
M
관리자2
조회수 104
추천 0
2024.01.22
제주도에서 당황한다는 음식
[네이트판] 유명 인플루언서랑 바람난 10년 만난 남친 ...
M
관리자2
조회수 94
추천 0
2024.01.22
[네이트판] 유명 인플루언서랑 바람난 10년 만난 남친 ...
아이바오 품에 꼭 안겨있는 후이바오
M
관리자2
조회수 101
추천 0
2024.01.22
아이바오 품에 꼭 안겨있는 후이바오
어린이집담임이 아이를 저희집에 혼자두고 퇴근했습니다
M
관리자2
조회수 114
추천 0
2024.01.22
어린이집담임이 아이를 저희집에 혼자두고 퇴근했습니다
이번주 어서와 한국은 처음이지에서 제작진 개입함;
M
관리자2
조회수 105
추천 0
2024.01.22
이번주 어서와 한국은 처음이지에서 제작진 개입함;
말싸움 정말 잘하는 할아버지의 꿀팁 38 가지
M
관리자2
조회수 75
추천 0
2024.01.22
말싸움 정말 잘하는 할아버지의 꿀팁 38 가지
현아에게 실망했다는 해외팬
M
관리자2
조회수 84
추천 0
2024.01.22
현아에게 실망했다는 해외팬
블라에서 난리난 저출산 원인 분석
M
관리자2
조회수 72
추천 0
2024.01.22
블라에서 난리난 저출산 원인 분석
현재 반응갈리는 고현정 연예인 발언.JPG
M
관리자2
조회수 77
추천 0
2024.01.21
현재 반응갈리는 고현정 연예인 발언.JPG
스벅 사업 종료 vs 다이소 사업 종료
M
관리자2
조회수 76
추천 0
2024.01.21
스벅 사업 종료 vs 다이소 사업 종료
중국, "파스타는 중국 고유의 음식"
M
관리자2
조회수 76
추천 0
2024.01.21
중국, "파스타는 중국 고유의 음식"
스카이캐슬은 실화라는 금수저녀
M
관리자2
조회수 72
추천 0
2024.01.21
스카이캐슬은 실화라는 금수저녀
작성
1 2 3 4 5