백선환
45
글
117
팔로워
57
팔로잉

백선환 인증된 계정

아마존 Tech BD

AWS에서 신서비스 사업개발을 하고 있습니다. 최근에 "챗GPT, 거대한 전환" 책을 출간한 작가이기도 합니다. 챗GPT(생성 AI)로 시작된 거대한 변화와 최신 IT 이슈를 공유하며 이 치열한 AI 전쟁에서 여러분과 함께 생존해 나가고자 합니다. email: sbaek.kr@gmail.com

경력
IT - AWS
https://product.kyobobook.co.kr/detail/S000201225687
프로필 공유로 응원하기
백선환
백선환 인증된 계정

[프롬프트 엔지니어링 #4] 정확성 향상을 위한 Generated Knowledge Prompting

AI 모델의 성능은 지속적으로 개선이 되고 있습니다. 이를 위해 AI 모델이 지식이나 정보를 통합하여 예측의 정확도를 높이는 기술이 사용되곤 합니다.    위와 비슷한 아이디어로 AI가 생성한 지식을 질문에 통합하여 답변의 정확도를 높이고자 하는 방법을 "Generated Knowledge Prompting"이라고 합니다. AI에게 질문하기에 앞서서 질문과 관련된 지식을 먼저 생성하게 하고, 이 내용을 프롬프트에 포함시켜서 보다 정확한 답변을 할 수 있도록 하는 것입니다.어떤 과정을 통해 답변을 생성하나요?    Generated Knowledge Prompting의 일반적인 프로세스는 아래와 같습니다. 1. 지식 생성: AI 질문과 관련된 콘텐츠(지식)을 생성하도록 요청 2. 프롬프트에 지식 통합: 생성된 콘텐츠 전체 혹은 일부를 프롬프트에 포함 3. 답변 생성 및 반복적 개선: AI의 응답을 리뷰하고 1-3번 프로세스를 여러 번 반복하며 답변의 정확도를 높이거나 새로운...
산업/기술/IT
백선환
백선환 인증된 계정

구글의 챗GPT 대항마 "Gemini Ultra"

구글 LLM 챗봇 Bard가 제미나이로 재탄생하면서 3가지 주요 업데이트가 있었습니다. 바쁘신 분들을 위해 바로 요약부터 해드릴께요. 1️⃣ "Gemini"로 브랜드 변경 2️⃣ 모바일 앱을 통한 액세스 3️⃣ 유료 구독을 통한 Gemini Advanced 출시🪄 🔑 핵심 포인트: 이제 안드로이드 사용자는 앱을 통해 "Gemini"를 더 쉽게 모바일에서 사용할 수 있습니다. 참고로 아이폰 사용자는 iOS Google앱을 통해 Gemini를 사용할 수 있는데요, 아직은 미국에서만 사용이 가능한 것으로 보여 집니다. Google One AI 프리미엄 플랜을 통해 Gemini Advanced를 이용할 수 있게 되었습니다. 금액은 월 19.99$로 월 20$인 챗GPT 플러스와 거의 동일한 금액대로 보실 수 있어요. 2개월 동안은 비용을 지불하지 않고 사용할 수 있어요. 가격은 챗GPT와 동일하게 설정하였으니 이제 성능과 사용성 등의 측면이 중요해 졌습니다. Ultra ...
산업/기술/IT
4 1
백선환
백선환 인증된 계정

아마존의 AI 쇼핑도우미 "Rufus"

Amazon은 고객의 쇼핑 질문에 답변하고 추천과 상품 비교를 제공하는 생성형AI 기반 쇼핑 도우미 Rufus 베타 버전을 출시하였습니다. 핵심 포인트:  Rufus는 Amazon의 제품 카탈로그, 고객 리뷰, 커뮤니티 Q&A 외에도 웹에서 공개적으로 사용 가능한 데이터를 활용하여 트레이닝 되었습니다. 고객은 모바일 앱에서 Rufus와 채팅할 수 있으며 "발렌타인데이에 좋은 선물은 무엇인가요?" 또는 “이 재킷은 세탁기로 세탁할 수 있나요?”와 같은 질문을 입력하거나 말로 질문할 수 있습니다.    이미 일부 미국 고객 그룹에게 베타 버전으로 출시되었고, 몇 주 안에 더 많은 사용자에게 출시할 예정입니다.워렌버핏이 투자한 AI 기업 아마존. 2024년에 더 기대되는 기업입니다! 기타 지난주 핫했던 AI 소식들은 아래 링크를 참고하세요.https://stib.ee/LRwA
산업/기술/IT
백선환
백선환 인증된 계정

[프롬프트 엔지니어링 #3] Self-Consistency로 일관성 유도

앞서 AI의 추론 능력을 향상시켜서 답변의 정확도를 높이는 방법으로 COT(Chain of Thought) 테크닉을 살펴보았습니다. COT 방식을 적용하면 수능 언어영역 점수를 3등급에서 2등급으로 확 끌어올릴 수 있었죠! 그리고 간단하게 적용하고자 하면 "Let's think step by step" 이라고 프롬프트를 더해주기만 해도 효과가 꽤 좋습니다. - 관련글 보기: [프롬프트 엔지니어링 #2] 추론을 강화하는 Chain-of-Thought 하지만 생성형 AI를 사용하다 보면, 답변의 일관성이 없어 신뢰도가 떨어지는 경우가 발생합니다. 이러한 문제를 보완하고자 등장한 테크닉이 Self-Consistency입니다.Self-Consistency는 무엇인가요? 오늘 소개드리려고 하는 Self-Consistency는 COT의 연장선에서 보다 AI 응답의 일관성과 신뢰성을 향상시키기 위한 테크닉입니다. COT는 AI가 추론 과정을 단계별로 설명하도록 가이드합니다. Self-C...
산업/기술/IT
백선환
백선환 인증된 계정

[프롬프트 엔지니어링 #2] 추론을 강화하는 Chain-of-Thought

지난해 챗GPT가 나왔을 때, 변호사 시험, MBA 시험 등을 통과하는 것으로 그 성능을 테스트 했습니다. GPT-3.5는 미국 변호사 시험을 하위 10%로 통과했고, GPT-4는 상위 10% 수준으로 통과했었습니다. 한국의 유저들도 비슷한 테스트를 진행했습니다. 챗GPT로 한국 대학수학능력 시험을 보게한 것입니다. GPT-3.5는 다소 실망스러운 성적을 보였습니다. 언어 영역에서 하위16%의 성적을 기록하며 7등급을 맞은 것입니다. 얼마 지나지 않아 등장한 GPT-4는 순식간에 성적을 올렸습니다. 같은 시험에서 상위 17%로 3등급 정도의 점수를 기록한 것입니다. 여담이지만 재미있는 것은 여기서 오답을 내는 패턴을 보면 사람들이 오답을 고르는 것과 유사했다는 것입니다. GPT-4에 약간의 프롬프트 엔지니어링 테크닉을 적용하여 다시 문제를 풀게 해 보았습니다. 프로젝트팀 노마다마스에서 한 실험인데요, 약간의 테크닉을 더하자 언어영억 2등급(상위 5%)을 달성했다고 합니다....
산업/기술/IT
백선환
백선환 인증된 계정

GPT-5 출시 임박? 빌게이츠와 샘알트만의 대담 요약

GPT-5란? GPT-5는 OpenAI GPT 모델의 Next 버전입니다. 2024년 1월 현재 이 다음 버전의 새로운 기능에 대한 구체적인 정보는 아직 없지만, 이를 통해 인간 수준의 인공 지능에 더 가까워질 것이라고 기대하고 있습니다. 현재 GPT-3.5와 GPT-4를 사용하는 ChatGPT는 할루시네이션 문제를 안고 있습니다. 이는 실제 논리 없이 단어 문자열을 예측하여 응답하도록 훈련된 핵심 아키텍처와 관련되어 있습니다. 최근 한국 매체와의 인터뷰에서 샘 알트만은 GPT 시리즈를 아래와 같이 평가했습니다. - GPT-2 was very bad. - GPT-3 was pretty bad. - GPT-4 is bad. - GPT-5 would be okay. GPT-5 출시 임박? Google의 Gemini가 출시되고 사람들은 OpenAI의 다음 GPT 모델인 GPT-5 출시에 더 큰 관심을 보이고 있습니다. 이러한 가운데 최근 MS의 빌 게이츠와 OpenAI의 샘 알...
산업/기술/IT
백선환
백선환 인증된 계정

[프롬프트 엔지니어링 #1] 개념과 기본 테크닉 - 제로샷 vs 퓨삿

생성형 AI(이하 AI)에 대한 관심이 높아지면서 "프롬프트 엔지니어링"에 대해 묻는 분들이 많아졌습니다. 실제로, 지난해부터 국내기업에서도 프롬프트 엔지니어라는 포지션이 생기기 시작했습니다. AI 회사인 '솔트룩스'와 '코난테크놀로지', 게임회사인 '위메이드플레이', 대기업인 'LG CNS' 등 다양한 기업에서 채용이 진행되었습니다.  도대체 프롬프트란 무엇일까요? 쉽게 말해 AI에 지시 혹은 질문하는 것을 뜻합니다. AI로부터 원하는 결과물을 얻기 위한 명령어라고도 볼 수 있습니다. 그런데, AI에 프롬프트를 입력하였는데(= 지시를 내렸는데) 내가 기대했던 결과물이 안나오는 경우가 종종 있습니다. 그 이유는 AI가 잘 작동하도록 지시하지 못했기 때문일 수 있습니다. 어떻게 질문했느냐에 따라서 (=프롬프트의 품질에 따라서) 의도는 같지만 AI의 답변 결과가 달라질 수 있기 때문입니다.프롬프트 엔지니어링이란? 원하는 답변을 더 잘 얻기위해 프롬프트를 설계하는 방법을 말합...
산업/기술/IT
백선환
백선환 인증된 계정

빅테크 생존기: 엘리베이터 피치로 매력적인 1분 자기소개 만들기

취업준비생이나 이직을 준비하는 얼리커리어분들은 종종 만나곤 한다. 그런데 가끔 적잖이 당황스러울 때가 있다. 취업을 준비하거나 곧 면접을 앞두고 있음에도 잘 정돈된 자기소개가 아직 준비되어 있는 않은 경우들이 있기 때문이다. 보통 면접에서는 첫 질문이 간단하게 자기소개를 해보라는 질문을 받기 마련이다. 첫 질문부터 준비되어 있지않아 당황해버리면 그 다음 질문에 대한 답변을 잘 이어나가기가 쉽지 않다. 그래서 준비했다. 앞선 블로그에서 설명했던 "엘리베이터 피치" 방식을 이용해서 효과적으로 1분 자기소개를 작성해 보자. ("엘리베이터 피리"란 제품, 서비스, 프로젝트 또는 기업에 대해 설명하는 간결한 요약 설명을 말한다. 엘리베이터를 타고 올라가는 시간(약 30초에서 2분)동안 설명한다고 해서 엘리베티어 피치라는 이름이 붙었다.) 일반적인 엘리베이터 피치는 6단계 구조로 구성된다. 1. 도입 -  2. 문제점 지적 - 3. 솔루션 제안 - 4. 차별점 강조 - 5. 대상 ...
산업/기술/IT
백선환
백선환 인증된 계정

빅테크 생존기: 찰나의 순간에 나를 어필하는 엘리베이터 피치

아마존의 평균 근속 연수는 2년에 채 미치지 못한다. 이는 치열한 경쟁과 무관하지 않다. 나는 팀 내에서 유일한 한국인이다. 매니저는 영국인이고 팀 동료들은 호주, 인도, 싱가포르, 일본 출신이다. 모든  미팅과 보고는 영어로 진행이 된다. 그러나, 나는 안타깝게도 네이티브 스피커가 아니다. 언젠가 매니저는 나에게 충격적인 조언을 했다. "나는 너를 좋아하고 너의 가치를 알아, 그런데 너의 말하는 방식으로 리더가 되는 것은 불가능해". "특히 너를 이끌어줄 리더십들은 시간이 없어. 수많은 사람들을 만나고 수백가지 이슈를 보고 받기 때문에, 언제든 너와 너가 하는 일을 브릴리언트하게 어필할 수 있어야해". 이미 스스로 느끼고 있는 부분이었다. 그런데, 매니저는 여기서 한 발 더 나아가 쐐기를 박았다. "나를 포함해서 우리 팀 동료들 네가 네이티브 스피커가 아니라는 것을 알아. 그리고 이해해. 하지만, 그게 경쟁에서 너를 지켜줄 수는 없어". "일단, 엘리베이터 피...
산업/기술/IT · 노동/인권/사회
4
백선환
백선환 인증된 계정

500여개 글로벌 오픈소스 AI 모델 평가에서 당당히 1위 찍은 한국 스타트업

국내 인공지능 스타트업 “업스테이지”에서 발표한 AI 모델이 8월 1일 기준 오픈소스 AI 모델 평가에서 전세계 1위를 기록했다. 챗GPT의 브레인 역할을 하고 있는 GPT-3.5 모델 보다도 높은 점수를 받았다!챗GPT의 등장 이후, 수많은 초거대언어모델 (LLM, 일명 초거대 AI 모델)과 챗봇이 쏟아져 나왔다. 오픈AI의 GPT, 구글의 바드, 메타의 라마 등은 대표적인 빅테크의 초거대 AI 모델이다. 초기에는 이런 모델들에 대한 성능 테스트와 평가는 주로 대학 연구소에서 특정 모델 중심으로 이뤄졌다. 올해초 오픈AI의 GPT와 구글 바드에 대한 비교는 한참 화두가 되기도 했다. 하지만 많은 모델들이 쏟아져 나오면서 단편적으로 몇 개의 모델들을 비교하기 보다는 전체적으로 모델들을 평가하고자 하는 시도들이 이어졌다. 특히, 새로운 AI모델과 챗봇이 출시될 때마다 거창한 홍보가 이어지면서 정말 어떤 모델이 경쟁력이 있는지 많은 사람들이 궁금해하기 시작했다. 그래서 글로벌 ...
산업/기술/IT · 경제/소비자