본문 바로가기

전체 글62

ChatGPT 에 대한 단상 이번 주 일주일은 열일 제쳐두고 ChatGPT 를 만지작 거리며 시간을 보냈다. ChatGPT 에 대한 사람들의 관심은 대단해서, 단 5일만에 사용자 100만명이라는 역대 최단 기간 신기록을 갱신하며 세상을 놀라게 하고 있다. 직접 이것저것 테스트를 해보니 아이언맨의 자비스가 머지 않았다는 느낌이 들 정도로 놀라운 퍼포먼스를 만들어 내는 것도 사실이지만 한편으로는 아직 갈 길이 멀었다는, 아니 오히려 AI 의 한계가 명확해 보인다는 생각이 든다. 가끔 영재들이 나오는 프로그램을 보면 만 서너살의 어린 아이들이 무언가를 빠르게 외우고 답하는 모습을 보며 천재성을 보인다고 말하곤 하지만, 암기력과 사고력은 별개의 문제이다. ChatGPT 또한 인간의 기준으로 본다면 엄청나게 빠른 학습 속도를 보이지만 이것은.. 2023. 1. 16.
[colab] runtime error: no cuda gpus are available colab 에서 CUDA GPU 를 할당할 때, runtime error: no cuda gpus are available 오류가 발생하는 케이스가 있다. 우선적으로는 상단 메뉴에서 런타임 - 런타임 유형 변경 탭으로 진입하여 하드웨어 가속기가 GPU 로 설정되어 있는지 확인해야 한다. 위의 설정이 정상적으로 되어 있는 경우에도 오류가 발생한다면, 소스 상에 GPU 가 아래의 코드로 할당되어 있는지 확인해야 한다. os.environ["CUDA_VISIBLE_DEVICES"] 해당 코드를 주석처리 해야 colab 에서 정상적으로 GPU 할당이 가능하다. 2021. 4. 6.
[colab] bash: Bad Substitution colab 은 기본적으로 우분투 리눅스를 지원한다. 우분투의 기본 쉘이 dash 이다 보니, bash 로 실행하는 스크립트의 경우 Bad Substitution 에러가 발생하였다. 이는 스크립트 실행 시 sh your_script_file.sh 와 같은 형식으로 실행하는 경우 호환성 문제가 발생하는 것으로 보이며, bash your_script_file.sh 의 형식으로 실행하면 정상적으로 작동하는 것을 확인할 수 있다. 2021. 4. 1.
[colab] sh: Permission denied 오류 colab 에서 sh 파일을 실행하는 경우, sh: Permission denied 오류가 발생하는 케이스가 있다. sh 파일에 대한 권한추가가 필요한 상황으로, 이러한 오류 발생 시에는 !chmod +x 명령어를 실행해 주면 해결된다. !chmod +x file_name 2021. 3. 29.
Metric Learning and Triplet Loss 1. Transfer Learning Transfer Learning 은 하나의 task 를 해결하기 위해 학습된 모델을 다른 task 해결을 위해 재사용 하는 것을 의미한다. 이는 사람이 새로운 지식을 습득하는 과정에서 기존에 습득한 지식들을 활용하는 것과 비슷한 개념이다. 참조 : https://towardsdatascience.com/a-comprehensive-hands-on-guide-to-transfer-learning-with-real-world-applications-in-deep-learning-212bf3b2f27a A Comprehensive Hands-on Guide to Transfer Learning with Real-World Applications in Deep Learnin.. 2021. 3. 28.
Few-Shot Learning 일반적인 딥러닝의 경우 데이터의 양이 많을수록 좋은 퍼포먼스를 보인다. 그러나 양질의 데이터를 확보하고 전처리하는 일련의 과정 자체가 많은 비용을 필요로 하는 작업이다. 때문에 작은 데이터를 사용하여서도 좋은 퍼포먼스를 보일 수 있는 방법에 대해 연구가 진행되었고, 그 과정에서 탄생한 것이 하나의 데이터를 통해서도 학습이 가능한 Few-Shot Learning 이다. Few-Shot Learning 에서는 데이터셋을 훈련에 사용하는 서포트 데이터와 테스트에 사용하는 쿼리 데이터로 구성한다. 서포트 데이터만을 사용하여 모델을 학습한 후, 쿼리 데이터를 통해 모델의 성능을 평가하게 된다. 출처 : https://neptune.ai/blog/understanding-few-shot-learning-in-com.. 2021. 3. 24.