RAG 시스템에서의 7가지 Failure point
진짜 다 겪어본 것 같네요 🤦♀️
FP1. 내용 누락(Missing Content)
- 질문에 대한 답변이 문서에 없을 때 발생합니다. 이상적인 경우, RAG 시스템은 "죄송합니다, 모르겠습니다"와 같은 응답을 해야 합니다. 그러나 문서와 관련된 내용이지만 문서에는 답변이 없는 질문의 경우, 시스템이 잘못된 응답을 제공할 수 있습니다.(할루시네이션)
FP2. 상위 랭크 문서 누락(Missed the Top Ranked Documents)
- 문서에 답변이 있지만, 검색 결과에서 상위에 랭크되지 않아 사용자에게 제공되지 않을 때 발생합니다. 이론적으로는 모든 문서가 랭크되어 사용되어야 하지만, 실제로는 성능을 고려하여 상위 K개의 문서만 사용됩니다.
FP3. 문맥 부족 - 통합 전략 한계(Not in Context - Consolidation Strategy Limitations)
- 데이터베이스에서 답변이 포함된 문서를 찾았지만, 답변 생성을 위한 문맥에 포함되지 않을 때 발생합니다. 이는 많은 문서가 검색되고 이를 통합하는 과정에서 일어날 수 있습니다.
FP4. 추출 실패(Not Extracted)
- 답변이 문맥에 있음에도 불구하고, 언어 모델이 정확한 답변을 추출하지 못할 때 발생합니다. 이는 주로 문맥에 너무 많은 노이즈나 모순되는 정보가 있을 때 일어납니다.
FP5. 잘못된 형식(Wrong Format)
- 질문이 표나 목록과 같은 특정 형식으로 정보를 추출하는 것을 요구했지만 대형 언어 모델이 이 지침을 무시한 경우입니다.
FP6. 부정확한 구체성(Incorrect Specificity)
- 응답에 답변이 포함되어 있지만, 사용자의 요구에 비해 너무 구체적이거나 일반적일 때 발생합니다. 이는 RAG 시스템 설계자가 특정 질문에 대해 원하는 결과를 설정한 경우, 예를 들어 학생들을 위한 교사의 경우 단순한 답변이 아닌 구체적인 교육 내용을 제공해야 할 때 발생할 수 있습니다. 또한 사용자가 질문을 어떻게 해야 할지 모르고 너무 일반적으로 질문할 때도 발생합니다.
FP7. 불완전한 답변(Incomplete)
- 불완전한 답변은 틀리지는 않지만, 문맥에 있고 추출 가능했던 정보를 놓친 경우입니다. 예를 들어, "문서 A, B, C에서 다루는 주요 포인트는 무엇인가요?"라는 질문에 대해 각각의 문서에 대한 질문을 별도로 하는 것이 더 나은 접근 방식일 수 있습니다.
논문 원문: arxiv.org/pdf/2401.05856
논문리뷰: muni-dev.tistory.com/entry/S…
2
42
115
10,592
𝕏 로 거의 처음 sns를 시작하고,
팔로워 100명을 목표로 즐겁게 소통해보자 했었는데
100명을 달성했습니다! 감사합니다🥰
앞으로도 AI엔지니어가 현업에서 느끼는 AI 이야기,
그리고 안전지대를 벗어나 성장하는 이야기들을 올릴 예정입니다.
많은 관심과 사랑 부탁드립니다 ❤️
23
6
90
4,618
artificialanalysis.ai/
LLM api비용, 성능 등 비교되어있는 사이트입니다
많은 정보가 담겨있습니다!
이렇게 정리해주는 분 최고.. 👍
2
24
69
6,696
333 팔로워 감사합니다!💖
제 얘기에 관심 가져주셔서 영광이옵니다
여러분 치매예방 3권3금3행 수칙 아시나요?
요 글 올리려고 333찾아보다가 발견한건데요 🤭
치매예방 뿐 아니라 살아가면서 정말 중요한 것들이라는 생각이 들어서 공유드립니다!
✔️3권(즐길것): 운동, 독서, 식사
✔️3금(참을것): 절주, 금연, 뇌손상예방
✔️3행(챙길것): 건강검진, 소통, 치매조기발견
사실 404를 얼른 달아서 드립을 치고 싶어요.. 도와주세요><
19
5
43
1,526
미하이 칙센트미하이는 창의적인 성공을 위한 가장 중요한 두 가지 특성으로 '호기심'과 '인내심'을 꼽았습니다.
호기심이 없으면 무언가를 배우거나 만드려는 동기가 생기지 않습니다. 창의성의 시작이라고 볼 수 있습니다.
인내심은 호기심으로 시작한 씨앗이 창의성이라는 꽃을 피우게 하는데 필수적입니다.
호기심이 몽글몽글 생겨났을 때 이를 소중히 여겨서 나의 시스템 안에 심어 놓고, 호기심이 어떤 방향으로 자라나게 될 지 꾸준히 살펴보고 보살펴야 합니다. 금방 자라나지 않는다고 새로운 것으로 눈을 돌리지 않아야 합니다.
아인슈타인처럼 말이죠
"내가 똑똑한 것이 아니라 문제를 오래 붙잡고 있었을 뿐이다."
4
5
30
2,185
이번 달 리뷰하게 된 책 '인사이드 머신러닝 인터뷰'.
첫 페이지에 이런 문구가 적혀있다.
"이 책을 저의 학습 데이터셋에 바칩니다.
데이터셋이 없었다면 아무것도 알 수 없었을 것입니다."
이 한 문장으로 '이 분은 진짜다!'라는 느낌이 확 들었다.
모든 AI는 좋은 데이터셋에서부터 시작하는데, 여러 고객들을 만나 얘기하다보면 생각보다 데이터에 대한 중요성을 많이들 모르신다.🥲
어떻게 하면 효과적으로 알려드릴 수 있을지 고민하고 있던 터에 내 생각과 일치하는 저자분을 만난 것 같아 반갑다😊
3
1
22
1,292
글쓰기에 진심이냐는 커뮤니티 가입 질문에
옵시디언에 '글쓰기'로 태그된 노트들을 다시 쭉 봤어요!
여기계신분들에 비하면 아기우주겠지만, 그래도 제 우주에서는 글쓰기 별이 제일 큽니다 ㅎㅎ
4
1
21
965
huggingface.co/spaces/upstag…
한국어 리더보드 2탄 등장!
시즌1이 학술적 벤치마크를 통해 추론, 언어이해, 할루시네이션, 상식 등의 능력을 평가하는 데 중점을 뒀다면,
시즌 2는 실용적 능력과 신뢰도를 평가하는 데 초점을 맞출 예정이라고 하네요.
과연 리더보드와 실무에서의 사용성이 얼마나 얼라인 될지
3
20
1,837
AI를 연구하는 입장에서
얕은 내용으로 수많은 유튜브, 글 컨텐츠들이 쏟아지는 것을 보면서 조바심이 났었어요.
이제는 묵묵히 제 길을 걸으면서 최적의
타이밍에 찐 가치를 전달할 수 있도록 정진하는 태도를 가지려 노력하고 있습니다.
끝까지 살아남을 진짜들 화이팅!❤️
AI 유튜버들이 요즘 뜸한 이유
2023년 말에 GPT가 유행하면서 엄청나게 AI 관련 유튜버들이 쏟아져 나왔다. 그런데 요즘 어째 예전같지 않다. 뜸하게 업로드가 되던가 혹은 업로드를 하지 않는 채널들이 생겨나고 있다.
그 이유를 이야기 해본다.
1. AI 유튜브를 운영하는데 돈이 안된다.
- AI 주제가 큰 조회수를 가져다 줄것으로 생각한 사람들이 많았지만 어느정도 매니아적인 주제인것을 깨닫게 된다.
2. 그러자고 어그로 끌자니 하루 이틀이다.
- 1번의 이유로 돈 버는 걸로 어그로 끌자니 본인도 안다 그게 안되는 걸
3. 공부가 부족하다.
- 모든 주제의 유튜브가 마찬가지인데 동영상 한 50개 정도 올리면 올릴게 없다. 그러므로 공부를 계속해야한다.
이러한 이유로 경기장을 떠나게 되는데
처음부터 정확한 목적지 없이 시작하면 이렇게 된다.
나는 처음 시작할 때 10년을 보고 시작했기에
오늘도 영상을 올리며, 가치를 전달하는데 집중한다.
정확한 목적을 갖고 시작하자.
5
19
805
1년 전 즈음부터 AI대학원 컨설팅을 하고 있어요.
정말 간절한 마음으로 찾아왔던 분들이 합격 소식을 가져올 때 날아갈 것 같은 기분이 듭니다.
오늘도 한 분이 합격 소식을 들려주셨는데요.
"제가 감히 여길.." 이라고 말씀하시던 곳에 제가 지원이나 해봅시다! 라고 강행했던 곳에 붙었다고 하네요!
아직도 안 믿기고 꿈같다며 감사하다는 분을 보니 제가 더 감사하고 살아있음을 느낍니다. 😊
이런 순간을 느낄 수 있어서 감사해요
2
1
15
935
저번주 북클럽에서 들은 내용인데
우리가 낮에 공부하며 지식들을 얻고 생각하는 것은 모두 데이터 전처리 과정이고,
우리가 자는 동안에만 진짜 학습이 이루어진다고 합니다
잠을 자자 🛏️
4
15
377
무려 3일동안 대감집에서 파이썬 강의를 진행했습니다!
교수님 컨택 + 논문 작성 + 다른 강의들까지 여러가지로 진짜 바쁜 상황에서 폭풍처럼 끝이 났네용 😂
어떻게 하면 프로그래밍의 재미를 느끼게 할 수 있을까 고민했는데 너무 잘 따라와주셔서 감사한 날들이었습니다
저도 행복했어요.. 💖
6
13
565
오늘 할 일에
'싫어요 말씀드리기'라고 적혀있었어요.
현재 AI모델 답변에 유저평가를 받는 부분(좋아요, 싫어요)에 문제가 있어서
프론트개발자분께 말씀드린다는 내용인데,
아마 작성 당시 너무 바빠서 이렇게 적은 것 같습니다.😅
신입 시절에는 '싫어요' 한마디를 못해서
끙끙 앓으며 참고 했었는데,
이제는 싫은 건 싫다고 말할 수 있게 되었어요.
1
10
486
그림, 시, 음악까지 인공지능이 창작한 결과물이 화제가 되고 있습니다.
그럼에도 본질은 인간의 평가와 선별에 있다고 생각합니다.
인공지능은 스스로 자신이 생산한 결과물의 가치를 평가하지 못합니다. 자기 작품을 감상하지 못하는 것이죠.
여전히 인공지능은 강력한 '보조' 생산 도구라고 생각합니다.
"작품에 서명하기 전에 작가는 충분히 숙고한다.
서명의 순간은 작품이 완성되는 순간,
즉 작품이 완성됐다고 작가가 승인하는 순간이다.
이 순간에 주목하면 그 어떤 예술작품이건
작가의 평가를 통해 완성된다는 것을 알 수 있다.
이런 점에서 작품을 완성하는 건 작가의 권리다."
- AI빅뱅 -
[유명 작곡가도 "전혀 몰랐다"…AI로 만든 곡이 공모전 1위]
전남 여수에서 열리는 '글로컬 미래교육 박람회' 주제가로 AI로 만든 곡이 공모전 1등을 했네요.
심사위원으로 참여한 작곡가 김형석 씨는
'제법 수작이었다'며 당혹했습니다.
또한 이런 평가를 남겼습니다.
"마르셀 뒤샹이 변기통 갖다 놓고 사인해서 엄청난 현대 미술사에 획을 긋는 어떤 행위를 한 것 처럼
AI에게 명령을 입력하는 행위를 하기 위해서 어떤 생각과 철학과 사상과 혹은 아이덴티티(정체성) 혹은 인생을 살아왔는지 이런 것들이 훨씬 중요해지지 않을까"
즉, 개인의 삶과 철학이 더 중요해지지 않을까라는 생각이었고, 저 또한 동의하는 바입니다.
n.news.naver.com/mnews/artic…
3
11
654
오늘 피크닉에서 몰입의 즐거움 책의 첫 장을 펼쳤다.
우리가 선택할 수 있는 길은 많지 않다.
지금 이 순간과,
언젠가 불가피하게 맞이할 임종의 순간 사이에서,
살아가는 길을 택하든가
죽어가는 길을 택하든가
둘 중 하나일 뿐이다.
2
12
286
<LLM툰>
#2 LLM의 운명과 할루시네이션
엄격한 인간 심사위원들 앞에서 늘 최선을 다하는 LLM 들.
일단 시작하면 그들의 대답을 멈출 수 없다.
Drop the beat 🕶️
2
13
2,446
백그라운드 서비스가 눈에 보이지 않는다고
사라진 것이 아니듯이
너의 가치를 보지 못했다고.
너의 가치가 사라지는 것은 아니다.
그러니 스스로의 가치를 의심하지 마라.
분명히 실행되고 있으니까.
2
4
11
867
Life can only be understood backwards; but it must be lived forwards.
인생은 과거를 통해서만 이해할 수 있지만, 미래를 위해 살아야 한다.
사내 논문 스터디를 진행하고 있습니다. 오늘 논문은 요즘 핫한 Quiet-STaR 였는데, Abstract 에 나온 명언부터 마음을 울리네요☺️
4
13
618
'인생은 모두 부업일 뿐, 자기자신을 아는 것이 본업이다.'
본업 외에 하고 있는 부업을 세어봤는데, 7개가 되었다.
늘 "어떻게 그걸 다 하세요?"하며 주변 사람들을 놀라게 했었는데
이번에 막상 세어보니 나도 놀라버렸다 이렇게 많이 하고 있다니..
마음 놓고 쉬어본 적이 언제였는지 기억이 나지 않는다.
부업은 부업이다. 나를 알아가는 것을 소홀히 하지 말자
모르는 척 하지 말자!
2
2
11
441
<LLM툰>
#1 태어나자마자 경력이 30년인 건에 관하여
우리가 많이 쓰는 역할지정 프롬프트가 LLM입장에서는 "갑자기 내가?" 라고 느껴질 것 같다는 생각에 그려보았습니다. 라미는 과연 해낼 수 있을 것인가
2
10
2,087
@hae5tar 님이 더 설명이 필요하다 말씀하셔서 끄적여본 설명!
현재 AI 구조 1짱은 '트랜스포머'라는 구조인데요. 요 구조가 인코더랑 디코더로 이루어져있어요
지금 여기저기 사용되고 있는 'GPT'라는 용어는 사실 트랜스포머의 디코더를 똑 떼와서 만든 모델 구조를 말하는 것이었땁니다아아
디코더 자체가 '이해'보다는 '생성'을 위한 모듈이다보니, GPT가 아무말이나 잘하는 성질을 가지게 되었어요 ㅎㅎㅎ
1
10
795
벚꽃도 피는데, 플러팅 멘트 추천🌸
너에게 overfitting 하고 싶어
너는 내 인생의 key feature야
너에게 가는 learning rate를 키우고 싶어
Accuracy 99.99% 😎
2
9
297
인과추론에는 근본적인 문제가 있는데,
동일한 실험 대상이 '처치'를 받은 상태와 받지 않은 상태를 동시에 관측할 수 없다는 점이다.
마치 두 개의 갈림길이 있을 때, 내가 선택한 하나의 길 앞에만 무엇이 있는지 알 수 있는 것과 같다.
두 개 중 하나를 선택해야 할 때 두 개의 반사실(counterfactual) 상황을 동일하게 비교할 수 없기 때문에 문제가 발생한다.
2
9
190
OpenAI 코파운더가 추려준 AI에 대해 가장 빠르게 배울 수 있는 글 27개를 소개했습니다.
세 줄 요약 포함하여 블로그에 작성했어요!
📎📎📎
bit.ly/4bDrNi9
1
3
10
513
suno.ai v3가 공개되었네요!
오늘부터 밑시딥스터디를 다시 진행하게 되었는데,
기념으로 딥러닝 랩을 만들어보았습니다.
퀄이 미쳤으니 꼭 들어보세요!
app.suno.ai/song/2008188f-f7…
가사
[Verse] 우리는 딥러닝 스터디 크루 밑바닥부터 시작해 보자 너와 나는 둘이서 기본기를 탄탄히 다지고 신경망의 비밀을 캐 보자고
[Chorus] Activation! Propagation! 순전파와 역전파 Optimization! 오차를 최소화 딥러닝의 매력에 퐁당 빠져볼까 Loss는 줄이고 Accuracy는 높이고
[Verse 2] 신경망 레이어를 차근차근 쌓아 XOR 문제도 해결할 수 있어 Hidden layer를 더 풍부하게 만들면 차원을 넘어서 성능을 극대화
6
1
9
384
뚜렷한 목표의 의식을 가지고 에너지를 제대로 투입해야
한 사람의 경험에 질서가 생긴다.
예측이 가능한 행동, 감정, 선택에서 드러나는 이 질서는
시간이 흐르면 개성 있는 ‘자아’로서 우리 눈앞에 나타난다.
- <몰입의 즐거움> 미하이 칙센트미하이
자아는 모델이다!
2
9
360
넌 1년 젊게 사는구나.
AI에게 욕설이나 눈살 찌푸리게 하는 말을 하는 분들은 많이 봤는데, 로그를 살펴보다 예쁜 말을 발견했어요.
2023년까지 정보로 제한되어있다는 AI의 말에
"넌 1년 젊게 사는구나."라고 말하신 분.
훌륭한 성품이 느껴집니다 ☺️
3
8
341
오스틴 클레온(@austinkleon )에 따르면
훔치는 일에는 좋은 도둑질과 나쁜 도둑질이 있습니다.
좋은 도둑질은
- 존경하고,
- 연구하고,
- 많은 사람으로부터 훔치고,
- 다른 사람의 공로를 인정하고,
- 변형하고,
- 재가공하는 것입니다.
나쁜 도둑질은
- 비하,
- 탈세,
- 한 사람 것만 훔치기,
- 표절,
- 모방,
- 갈취 등이 있습니다.
- 크리에이티브 프로그래머 -
2
8
278
그룹에서 챗봇아레나를 본뜬
임원아레나를 만들수도 있을것같아요 .
임원들의 페르소나를 챗봇에 넣어서
블라인드 테스트를 하자는건데 ㅋㅋㅋㅋ
재밌을것같으면서도 어지럽네요 😵
챗봇아레나라고 아시나요?
블라인드 테스트 방식으로, 대화형 AI 모델 선호를
조사하여 순위를 매기는 공간인데요!
chat.lmsys.org/
여기서 확인할 수 있습니다. 잼써요!
2
1
8
652
Love the upgrades on the 10th anniversary gift edition of STEAL LIKE AN ARTIST! The hardcover and fancy ribbon bookmark are great touches that elevate the reading experience.
1
63
rungalileo.io/hallucinationi…
A Ranking and Evaluation Framework For Hallucinations
갈릴레오 ai가 측정한 RAG 환각지수입니다.(폐쇄형 모델 10개와 오픈 소스 12개가 포함)
overall winner for RAG
가장 좋은 Claud 3.5, 가성비 Gemini1.5, 공짜 Qwen2-72B
Short Context for RAG(<5k)
가장 좋은 Claud 3.5, 가성비 Gemini1.5 Flash, 공짜 Llama-70b-chat
Medium Context for RAG(5k~25k)
가장 좋은 Gemini1.5 Flash, 가성비 Gemini1.5 Flash, 공짜 Qwen1.5-32B-chat
Long Context for RAG(40k~100k)
가장 좋은 Claud 3.5, 가성비 Gemini1.5 Flash
6
8
906
커리어 관리를 위한 철학 3가지
1. 기술적인 방향
여러분이 만드는 제품, 기능 또는 작업의 기술적인 방향을 스스로 정의하고 있나요?
2. 성장
성장하기 위해 무엇을 해야 하는지 알고 있나요?
3. 실천
일정을 지키고 있나요? 약속을 지키고 있나요? 여러분이 말한 대로 행동하고 있나요?
- 개발자를 위한 커리어 관리 핸드북 -
8
337
ML 관련 직무 평가 요소
- ML 기본 지식
- 소프트웨어 엔지니어링 기술
- ML 시스템 설계
위 3가지 중 하나라도 뚜렷한 약점이 없어야 하고,
하나 이상의 영역에서 뛰어나다면 베스트!
7
194
점심시간에는 늘 책을 읽습니다
요즘에는 인과추론을 공부하고 있는데요!
인과추론의 유일한 목적은 현실을 이해하는 것이며, 결국 더 나은 삶을 살고자 하는 욕구에서 비롯된다고 합니다.
AI가 우리의 이러한 욕구를 이해할 수 있을까요?
6
99
열심히 하는 것 == 하기로 한 것을 하는 것
일을 잘한다는 것 == 하기로 한 것을 제시간에 하는 것
이라고 생각함다!
열심히 사는게 뭐에요? 하기로 한 걸 하는 거잖아요
열심히 살면 뭐해?
잘 살아야지
스마트하게 살아야지
틀린 말은 아니다.
그러나 열심히 사는 삶에 대해 존중해줘야 한다고 생각한다.
열심히 사는 것은?
하기로 한 걸 하는거라는
모니카씨의 한 마디에
머리가 끄덕여진다.
내가 어렸을 때는 열심히 사는 '성실함' 에 대해서 많이 이야기 했다. 그러나 요즘은 뭔가 패스트 트랙으로 가는 것, 그것을 따르지 않으면 뒤쳐지는것처럼 분위기가 형성되기도 한다.
열심히 사는 삶은 후회 없는 삶이다.
열심히 살다보면 스마트하게 살아지기도 하며
열심히 살다보면 잘 살아지기도 한다.
당연히 때로는 터널과도 같은 삶의 구간도 지나야 하지만
그럼에도 불구하고 열심히 사는 삶은 후회 없는 삶이다.
오늘 하루도 열심히 살아본다.
후회없는 내 삶을 위해서
그리고 묵묵히 열심히 사는 사람들을 위하여
뉴욕에서라도 조용한 응원의 박수를 보내드린다.
누군가의 열심히한 일요일이 마무리되며 누군가는 시작된다.
2
1
6
344
라이브코딩 면접에서 중요하게 생각하는 요소
- 코드가 주어진 문제를 해결하는가
- 합리적인 데이터 구조와 알고리즘을 사용하는가
- 코드가 깔끔한가
- 커뮤니케이션 기술
- 테스트
1
5
315
예전에 AI가 이미지를 생성해내는걸
'꿈을 꾼다'라고 표현했던 적이 있었는데,
이번 text to video 툴 dream-machine 이
이 컨셉을 가져온 듯 하다.
영상을 생성할 때 DREAMING...
이라고 표현한 것이 재미있다 🌙✨
lumalabs.ai/dream-machine
2
5
268
슬픔은 삶의 기본값이다.
포르투갈의 ‘사우다드’ 라는 단어는
슬픔으로부터 달아나게 하기보다
감정을 더욱 생생하고 날카롭게 만든다.
히조님의 책방 책잎에 와서 소중한 시간을 보내고 있어요
지금은 <당신의 마음에 이름을 붙인다면> 에서
한여름의 문장 수집 중 🌿
6
589
For those who may not be aware, I wanted to share this information in case it could be helpful to someone.
When using deepspeed, there is an issue where the process terminates with the error "Object of type Tensor is not JSON serializable" (it seems to happen when saving checkpoints!).
This issue occurred after recent updates to libraries such as torch and transformers while trying to run GEMMA.
The solution is to downgrade the version:
pip install deepspeed==0.13.1
I hope this information proves useful to someone facing a similar issue.
1
5
109
오늘 밤 생산성, 지식관리 전문가인 @BrianBrainKnows 님의 투두이스트, 아키플로우 활용 강의가 있습니다!
바쁘다 바빠 현대사회
늘 일에 치여 사는 우리 현대인들이라면
와 이건 꼭 들어야 해 !!
오늘밤 10시
대기업 AI 컨설턴트이자
업무 효율성, 지식관리 전문가인
브라이언님의 @BrianBrainKnows
투두이스트, 아키플로우 활용 노하우를
아낌 없이 나누어주는 시간이 왔어요!
자세한건 아래 글 확인해주세요.
늘 일과 일정에 치여 사신다면 강추🙆♂️
-------
⭐️더배러 톡톡 안내⭐️
🎙️ 디지털 생산성 마스터가 선택한 최강의 앱! 🔥
수많은 생산성 앱 중 아키플로우와 투두이스트, 단 두 개의 앱으로
브라이언은 목표 관리, 일정 관리, 할 일 관리를 실현합니다! 🎯⏰✅
투두이스트의 할일을 아키플로우와 연동하여
실시간으로 진척 상황을 확인하고 동기부여를 받는 것은 물론,
할 일 등록과 일정 관리까지 두 앱의 강점을 완벽히 활용하는 비법! 😎📅
10년 넘게 GTD를 실천하며 수많은 앱을 테스트해 온 브라이언!
그가 선택한 앱들의 조합과 활용 방법이 궁금하다면?
더배러 톡톡에서 이야기 합니다.
🗓️ 일시: 6월 11일(화) 밤 10시
📍온라인 Zoom: zoom.thebetter.today
브라이언이 선택한 앱으로 당신의 생산성도 극대화하세요! 🚀
생산성의 신세계로 초대합니다! 😉
4
353
여러 외쿡산 멀티링구얼 모델을 학습시켜보면서
휴리스틱하게 판단한 내용인데,
외국산 멀티링구얼 모델에 한국어 instruct 데이터셋을 학습시키면 시킬수록
한국어 능력(언어 섞여나오는 현상 줄어듦)은 올라가지만
추론 능력은 떨어지는 것 같습니다.
그래서 오히려 SFT보다는 LoRA가 더 나은 것 같기도 하고요.
아니면 프롬프트 엔지니어링이 더 좋을지도요.. 테스트 더 해봐야 할 것 같습니다
1
3
318
Love this recipe for success! It's like baking a cake - bravery to try, wisdom as the base, consistency as the frosting, and persistence to keep it all together. Great analogy!
2
38
Congrats on the new course, Andrew! Excited to see Generative AI becoming more accessible to everyone without prior coding or AI experience, making it inclusive and impactful for diverse applications!
426
동기가 후배 책상에 붙이고 싶다는 업무 10계명
이거 책상에 붙이면 상처받을까?라고 물어봤다..ㅋㅋㅋㅋ
1. UI 한글자를 수정하더라도 조회/입력/수정/삭제 테스트를 한다.
2. Commit마다 내가 수정한 부분 소스 비교를 한다.
3. 오류 문의가 개발보다 우선이다.
4. 가장 먼저 할 것은 '오류 현상 재현'이다.
5. 잠깐 오류 나도 되는 건 없다.
6. 같은 실수를 반복하는 건 미흡의 증거가 된다.
7. 남의 도움을 받지 않고 스스로 해결한다.
8. 내 결과물에 대한 책임은 나에게 있다.
9. 업무가 완료되면 보고를 한다.
10. 업무 시간을 준수하고, 정해진 시간에 업무를 완료한다.
2
275
Vision language models are blind (arxiv.org/pdf/2407.06581)
VLM 모델들이 엄청 쉬운 문제의 정답률도 매우 떨어진다는 실험 논문(under 70%)
속이 단단한 사람만큼 속이 단단한 모델이 되기도 어렵따!
3
200