ChatGPT는 아무말 대잔치, 팩트 확인해야


chatGPT가 생성형 AI 로 세상을 바꾼다는 애기가 많다. 그림이나 글쓰기 픽션 처럼 사실이 아니라 지어내는 거에는 유용하지만 사실 기반으로는 믿으면 안 되는 것 같다.

OpenAI ChatGPT

챗GPT의 아무말 대잔치 사례

없는 스펙을 지어내는 챗GPT

아트리스트에 대한 글을 쓰다가 문득 챗지피티한테 쓰라고 할까 해서 물어봤다.

처음에는 아트리스트를 잘 설명하더니 어느나라 서비스라고 하니깐 딴 얘기를 한다. 월 구독이 없는데 월 구독도 있다고 한다. 😆

아트리스트(Artlist)는 유튜브, 비즈니스, 블로그, 영화 등에서 사용 가능한 라이선스 음악을 제공하는 유료 음원 사이트 중 하나입니다.

아트리스트는 한국의 예술 작품 대여 및 구매 플랫폼입니다. 예술작품 대여 서비스를 중심으로 하며, 고객들이 작품을 직접 보고 선택할 수 있도록 오프라인 스페이스도 운영하고 있습니다. 아트리스트에서는 회화, 사진, 조각 등 다양한 예술작품을 대여할 수 있으며, 대여 기간이 끝나면 작품을 반납하거나 구매할 수도 있습니다.

제품 스펙 아무말 대단치

IOS 16부터 애플워치로 수면을 측정할 수 있다. 애플은 core, 깊은수면, REM수면, awake를 측정한다. 보통은 얕은 수면, 깊은수면, REM수면으로 나눈다.

애플와치의 수면 데이터를 보면 이상하게 awake 가 있어서 chatGPT한테 애플워치의 수면단계를 물어보았다. 애플워치 없는 그냥 일반 수면단계를 얘기한다.

애플워치의 수면앱에서는 수면의 4가지 단계를 측정합니다. 이들은 다음과 같습니다.

얕은 수면: 수면의 첫 번째 단계이며, 뇌파가 느리고 깊지 않습니다.
중간 수면: 수면의 두 번째 단계로, 뇌파가 느리고 깊어지며 눈동자 움직임이 줄어듭니다.
깊은 수면: 수면의 세 번째 단계로, 뇌파가 매우 깊고 느리며, 깊은 수면 단계에서 꿈을 꾸게 됩니다.
램 수면: 수면의 마지막 단계로, 뇌파가 느리지만 눈동자 움직임이 매우 빠릅니다. 이 단계에서 꿈을 꾸고, 기억력과 학습 능력을 증진시키는 것으로 알려져 있습니다.

그래서 내가 다시 얘기해줬더니 고쳐서 얘기한다. 그런데 애플워치 수면 측정에는 indeep, light은 없다. 😆

저의 이전 답변에서는 잘못된 정보를 제공한 것 같습니다. 애플워치의 수면 측정 기능에서는 indeed, 깨어있는 시간(awake), 깊은 수면(deep), 램수면(rem) 및 경계수면(light)을 측정합니다. awake는 수면 상태가 아니라 깨어있는 상태를 나타냅니다. 따라서 저의 이전 답변이 부정확했음을 인정하며, 올바른 정보를 제공하기 위해 노력하겠습니다. 감사합니다.

코딩할때

코딩할때 정말 편하다. 1초만 생각해도 되고, 1초만 구글에 검색해도 되는데 챗GPT할때 물어본다. 정말 편하다. 생각을 안해도 되고, 라이브러리 스펙 보거나 stackoverflow 글을 다 찾아서 안 읽어봐도된다. 그냥 주어진 언어로 코드를 쓱 준다.

openAI의 챗GPT나 구글의 바드 둘 다 코딩할 때 물어보면 편하다.

그러나 큰 문제가 있다. chatGPT가 프로그래밍에서도 아무말 대잔치를 한다. 없는 라이브러리나 프레임웍크를 코드에 쓴다. 프레임워크 이름도 그럴싸 하다. ㅋㅋ

그래도 코딩은 챗gpt 가 알려준 코드를 돌려보면 돌아가는지 오류가 나는지 알 수 있다.

사실, 프로그래밍 언어 처럼 딱 정해진 언어 규칙에 논리적인 것은 chatgpt 가 아주 잘하는 분야이다. 그러나 논리는 학습을 해서 알려주지만, 라이브러리나 언어 함수를 지어내는 단점이 있다.

미국 변호사가 ChatGPT가 거짓으로 지어낸 판례를 법정에서 인용

뉴욕타임즈 기사, Here’s What Happens When Your Lawyer Uses ChatGPT , 구독해야 볼 수 있어, The Verge 기사를 A lawyer used ChatGPT and now has to answer for its ‘bogus’ citations 링크한다.

콜롬비아 항공사 아비앙카(Avianca)를 상대로 소송을 제기한 변호사들이 ChatGPT가 막 지어낸 과거 사건으로 가득 찬 요약본을 제출했다고 뉴욕타임스가 보도했습니다.

한 예로, 존재하지 않는 ‘Varghese 대 중국남방항공 사건’을 언급했습니다.  챗봇은 실제로 있었던 사건인 ‘Zicherman 대 대한항공 사건’을 인용하는 것처럼 보였지만, 1996년 판결이 내려진 것과 다르게 12년 후에 확정된 사건이라며 날짜(그리고 다른 세부 사항)를 잘못 알려주었습니다.

변호사는 “내용이 허위일 수 있다는 가능성을 인지하지 못했다”고 말했습니다. 그는 이제 “여기서 수행한 법률 연구를 보완하기 위해 생성 인공 지능을 활용했던 것을 크게 후회하며, 진위 여부에 대한 철저한 검증 없이는 앞으로도 절대 그렇게 하지 않을 것”이라고 밝혔습니다.

chatGPT가 없는 판례를 지어냈다.

이거 말고도 엄청 많다. 그냥 내가 오늘 물어본 것중의 하나이다. 몇 달전에 가장 유명해진 거짓말로 대통령은 문재인다. 원균은 일본 장수이다 등의 유명한 틀린 팩트가 있다.

챗GPT는 아무말 대잔치

챗GPT가 거짓말한다고 하는데, 그건 아닌 것 같다.

거짓말은 남을 속이기 위해 의도를 가지고 사실과 다른 얘기를 하는 것이다.

chatGPT는 남을 속이려고 하는게 아니다. 의지나 의식이 없기 때문이다. 그냥 아무말 대잔치를 한다.

GPT는 ‘Generative Pre-trained Transformer’의 약자다. 사전에 훈련된 생성변환기라는 뜻이다.

‘T(트랜스포머)’는 구글에 2017년에 논문으로 공개한 것이다. 문장 속 단어 등 데이터간 관계를 추적해 맥락을 학습하는 신경망을 뜻한다.

겁나 많은 정보를 넣어서 학습해서 확률로 관계 맺는다.

김대식 교수의 영상을 보니 저개발국에게 낮은 임금으로 맞는지 확인했다고 한다. 확률로 관계맺어서 생성하니 어떤 경우에는 맞는게 있을 수 있지만 막 만들어낸다.

챗GPT는 거짓말이 아니라 아무말 대잔치라는 표현이 적절한 것 같다. 원래 원리가 그러니깐.

지적하면 바로 잘 못했다고 하면서 또 지어낸다.

심지어 코딩을 시켜도 없는 프레임웍을 그럴싸한 이름으로 만든다. 😆

크롬 플러그인으로 웹 검색을 하게 해도 10개 정도 까지만 가지고 하니 그렇게 쓸모가 많지는 않은 것 같다.

프롬프트에 내용을 다 붙여 넣은 후에 이 안에서 찾게 하는게 가장 좋은 것 같다. 검색엔진은 확실히 대체 못한다.

누가 글 쓰기를 대신해준다고 했는가? 잘못된 정보에 정치인이 쓴 듯한 애매한 글

미사리 경정공원이 겹벚꽃으로 유명하다.

벚꽃이 진 후에 겹벚꽃이 핀다. 미사리 경정공원에 다녀올 생각이다.

다녀온 후에 블로그에 올린다고 생각하고, ChatGTP한테 써보라고 했다.

겹벚꽃이 노란색, 주황색, 빨간색도 있단다. 다양한 식물과 동물도 있단다. 국내 최초로 꽃구경 인증도 받았단다. 😆

엣지 브라우저에 있는 빙의 작성 기능으로 써보라고 했다. 경정공원이 서울의 중심부에 있단다. 😆 아무말 대잔치다.

경정공원 겹볒꽃을 보고 온 후기

저는 지난 주말에 경정공원에 가서 겹볒꽃을 보고 왔습니다. 겹볒꽃은 4월 중순부터 5월 초까지 만개하는 봄의 대표 꽃으로, 밝은 노란색과 붉은색의 화려한 색상이 인상적입니다. 경정공원은 서울의 중심부에 위치한 공원으로, 넓은 잔디밭과 산책로, 연못과 분수 등이 있어서 편안하고 즐거운 시간을 보낼 수 있습니다.

저는 공원에 도착하자마자 겹볒꽃이 가득한 꽃밭을 발견했습니다. 꽃밭에는 다양한 종류와 색상의 겹볒꽃이 있었고, 햇빛에 반사되는 꽃잎이 눈부시게 빛났습니다. 저는 꽃밭 주변을 돌아다니면서 겹볒꽃을 감상하고 사진을 찍었습니다. 겹볒꽃은 한송이 한송이가 아름답고 고운 모양을 하고 있었고, 향기도 좋았습니다. 저는 겹볒꽃의 아름다움에 감탄하면서 봄의 기운을 느꼈습니다.

저는 겹볒꽃을 보고 난 후에도 공원에서 다른 풍경들을 즐겼습니다. 공원 안에는 연못이 있어서 오리와 거위가 헤엄치고 있었고, 분수가 물줄기를 높이 뿜어내고 있었습니다. 잔디밭에는 가족들과 커플들이 피크닉을 하거나 놀이를 하고 있었고, 산책로에는 자전거를 타거나 조깅을 하는 사람들이 있었습니다. 공원은 사람들의 웃음소리와 새소리로 가득했습니다.

저는 경정공원에서 겹볒꽃을 보고 온 후에 매우 만족스러웠습니다. 겹볒꽃은 봄의 아름다움과 생명력을 상징하는 꽃이라고 생각합니다. 저는 겹볒꽃을 보면서 봄의 희망과 기쁨을 느낄 수 있었습니다. 저는 경정공원을 방문하신 분들께도 겹볒꽃을 강력하게 추천합니다. 겹볒꽃은 여러분의 마음에 따뜻함과 즐거움을 선사할 것입니다.

챗GPT의 말이나 글은, 정치인 같다. 애매모호하다. 정치인과 다른 점은 틀린 걸 지적하면 바로 잘못 했다고 한다. 틀린걸 얘기하는 걸 어떻게 믿을 수 있을까?

ChatGPT는 요약이나 픽션 기반의 글쓰기, 그림에 적합할 듯

글의 요약은 잘 한다. 프롬프트에 본문을 줘야한다.

링크를 주고 요약하라고 하면 요약은 나오지만 아무말 대잔치이다. 그냥 막지껄인다. 😆

내 글을 주고 고치라고 하는 건 조금 괜찮다.

사실 기반이 아니라 지어내기에는 좋은 것 같다.

이름 짓기도 좋고, 픽션 기반으로 글쓰기 하는 곳에 쓰는게 적절한 것 같다. 가짜 뉴스 시대에 언론사의 기레기도 거짓 기사를 쓰니 그냥 챗gpt 한테 쓰라고 해도 될 것 같다.

ChatGPT로 블로그 글이나 유튜브 영상 대본을 만든다는데, 팩트 기반은 안된다.

물론 모든게 그런 것은 아니다. 아이폰 사용 방법을 물어보면 맞는 것도 많다.

ChatGPT 얘기는 팩트 확인을 해야한다

ChatGPT 생성형 AI 시대의 인간 사용자에게 필요한 능력은? 에서 언급했지만 내가 모르는 것은 chatGPT 애기를 믿으면 안 될 것 같다.

코딩은 내가 돌려서 확인해봐야 하고, 이야기한 내용의 팩트는 다시 내가 검증해야한다.

ChagtGPT 가 얘기한 말을 믿을 수 없으니 소셜을 쓰지 않는 나로서는 생각하기 싫은 코딩이나 좀 짜라고 한다.

그냥 어차피 아무말 대단치라, 오래전에 심심이 처럼 그냥 심심할때 아무말 대잔치라면서 노는 용도로 쓰고 있다.

파인튜닝한 ChatGPT

지인말로는 특정 분야에 대해 파인튜닝을 하면 엄청날 것이라고 한다. 근데 그런건 일반인은 경험하기 어려우니 아직은 잘 모르겠다.







제휴 링크로 구매 시 제휴마케팅 활동의 일환으로 일정액의 수수료를 지급받아 콘텐츠를 제작하는데 큰 도움이 됩니다.



도움이 되셨다면, 댓글이나 소중한 커피 한 잔 부탁드려도 될까요?

커피 사주기



























북트리: 도서관리 & 독서노트
4.5 • 231개의 평가
바코드만 스캔하면 책 정보가 쏙,독서달력,독서통계,독서목표관리,독서노트 등 독서기록 어플









Add a Comment

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다