본문 바로가기

분류 전체보기

윈도우에서 키보드 변경하기 윈도우에서 파워토이(PowerToys)로 키매핑 변경하기 마이크로소프트의 파워토이(PowerToys)는 Windows PC 사용자를 위해 다양한 고급 기능을 제공하는 무료 유틸리티 모음입니다. 특히 그 중의 '키보드 매니저'는 사용자가 개인의 사용 스타일에 맞게 키 매핑과 단축키를 조정할 수 있게 해주는 툴입니다. 파워토이(PowerToys) 키보드 매니저를 사용하면 예를 들어 F1 키를 눌러서 숫자 패드를 활성화하거나, 윈도키와 C를 동시에 눌러 클립보드에 항목을 복사하는 등의 동작을 사용자가 원하는 대로 설정할 수 있습니다. 이 기능은 Windows의 기본 설정 키와 충돌하지 않는 범위 내에서 자유롭게 키를 재정의할 수 있게 해줍니다. 윈도우 파워토이의 키보드 매니저 사용 방법 1. 파워토이 다운로드.. 더보기
GPT 구조에 대한 초간단 리뷰 GPT 구조에 대한 초간단 리뷰 GPT(Generative Pre-trained Transformer)란 무엇인가? GPT는 자연어 처리(Natural Language Processing, NLP) 분야에서 각광받는 인공 지능 모델 중 하나입니다. 트랜스포머(Transformer) 아키텍처를 기반으로 하며, 대규모의 데이터로 비지도학습(Unsupervised Learning)을 통해 사전 훈련(Pre-trained)되어 있습니다. 이 모델은 다음 토큰 예측(Next Token Prediction)을 통해 훈련되며, 이는 주어진 텍스트 뒤에 이어질 단어나 문자를 예측하는 것을 목표로 합니다. 이 과정을 통해 언어의 근본적인 패턴을 학습하고, 이를 다양한 하위 작업에 파인튜닝(Fine-tuning)하여 활용.. 더보기
샘 알트먼, "AI를 멈출 마법 버튼은 없다" 샘 알트먼, "AI를 멈출 마법 버튼은 없다" "Sam Altman: there’s no “magic red button” to stop AI"은 유튜브에서 볼 수 있는 내용으로, Sam Altman이 "AI를 멈출 마법 버튼은 없다" 라는 주제로 인터뷰 한 내용을 요약 했습니다. 배경 샘 알트먼과 사티아 나델라, 인공 지능의 미래를 형성하는 가장 중요한 인물 중 두 명으로 꼽히고 있습니다. 샘 알트먼은 OpenAI의 CEO로, ChatGPT를 개발한 스타트업인 OpenAI의 지도자입니다. 사티아 나델라는 Microsoft의 CEO로, OpenAI의 주요 투자자 중 하나입니다. 이들은 The Economist의 편집장과 대화하여 인공 지능의 미래에 대해 논의했습니다. 인터뷰 내용 GhatGPT가 다음 1.. 더보기
Whisper large v3 모델 실행하기 WSL과 Docker 상에서 Hugging Face Whisper Large v3 모델 실행하기 Whisper는 음성 인식 및 음성 번역을 위한 사전 훈련된 모델로, 많은 양의 데이터를 기반으로 학습되어 다양한 데이터와 도메인에서 잘 일반화됩니다. Whisper large-v3는 이전 모델과 비슷한 아키텍처를 가지지만 입력 데이터 표현에서 차이가 있고 새로운 위한 언어 토큰이 추가되었습니다. 이 모델은 더 많은 데이터를 사용하여 학습되었으며, 영어 전용 및 다국어 데이터를 기반으로 다양한 모델 크기로 제공되며 Hugging Face Hub에서 사용 가능합니다. https://huggingface.co/openai/whisper-large-v3 openai/whisper-large-v3 · Hugging .. 더보기
마크업 에디터로 블로그 포스팅하기 Typora와 StackEdit으로 마크다운 에디팅 시작하기 마크다운은 웹상에서 텍스트를 작성하고 포맷하는 방식을 바꿔놓았습니다. 마크다운은 가벼운 마크업 언어로, 단순한 텍스트 포맷팅 문법을 사용해 HTML 또는 다른 형식으로 변환할 수 있습니다. 이런 마크다운 세계에서 눈에 띄는 두 가지 도구는 Typora와 StackEdit입니다. Typora: 매끄러운 글쓰기 경험 Typora는 깔끔하고 방해받지 않는 인터페이스를 제공하며, 글쓰기와 미리보기를 동일한 창에서 병합하는 최상의 기능을 제공합니다. 생동감 있는 미리보기, 실시간 동기화, 그리고 모든 작가의 취향을 만족시킬 수 있는 다양한 테마를 지원합니다. StackEdit: 한 번 쓰고 어디서나 게시하기 StackEdit는 구글 드라이브와 드롭박스와.. 더보기
WSL 백업하고 다른 위치에서 복원하기 WSL 백업하고 다른 위치에서 복원하기 Windows Subsystem for Linux(WSL)는 윈도우 환경에서 리눅스 배포판을 실행할 수 있는 강력한 도구입니다. 때때로, 우리는 시스템을 재구성하거나, 데이터를 보호하기 위해 WSL 환경을 백업하고 싶을 때가 있습니다. 이 글에서는 WSL을 백업하고 다른 위치에서 복원하는 방법을 단계별로 안내합니다. 1단계: 현재 설치된 WSL 확인하기 먼저, 현재 시스템에 설치된 WSL 배포판을 확인해야 합니다. 이를 위해서는 다음 명령어를 사용합니다: wsl -l -v이 명령어는 설치된 모든 WSL 배포판과 그 상태, 버전을 보여줍니다. 예를 들어, 제 시스템에서는 다음과 같은 결과를 보여줍니다: NAME STATE VERSION ubuntu-22.04 Stop.. 더보기
WSL 우분투 22.04 실행 문제 해결하기 WSL 우분투 22.04 실행 문제 해결하기 Windows Subsystem for Linux(WSL)에서 우분투 22.04를 사용하다가 실행 문제가 발생했을 때의 해결 방법에 대해 공유하려고 합니다. 저처럼 WSL을 사용하다가 어느 날 갑자기 우분투가 실행되지 않는 문제를 겪으셨다면, 이 글이 도움이 될 것입니다. 문제 상황 우분투가 실행되지 않음: Application 실행이나 CMD, PowerShell에서 bash 명령어를 사용해도 반응이 없음. 해결 과정 이 문제를 해결하기 위해 가상 메모리 설정을 조정하는 방법을 사용했습니다. 다음은 해결 과정의 단계별 설명입니다: 1. 실행 창 열기 Windows + R 키를 눌러 실행 창을 엽니다. 그리고 SystemPropertiesAdvanced를 입력.. 더보기
GoPro 타임랩스 이미지를 비디오로 변환 파이선을 이용해서 GoPro 타임랩스 이미지로 비디오 만들기 GoPro 카메라로 촬영한 타임랩스는 멋진 순간들을 연속적으로 담아내는 데 탁월합니다. GoPro 의 타입랩스 기능을 사용하면 정해진 간격으로 이미지를 생성합니다. 하지만, 이 많은 이미지들을 관리하고 비디오로 만드는 것은 쉬운 일이 아닙니다. 이 블로그에서는 Python 스크립트 두 개를 사용하여 GoPro 타임랩스 이미지들을 쉽게 정리하고, 이를 사용해 비디오를 만드는 과정을 안내합니다. GoPro 타임랩스 이미지 정리하기 GoPro 의 타입랩스 기능을 사용하면 정해진 간격으로 이미지를 생성합니다. 예를 들면 Gopro 의 이미지를 가져오면 다음과 같습니다. group_files.py 스크립트 group_files.py는 이미지 파일들을 수.. 더보기
LLM 학습과정에서 RLHF 란? RLHF(Reinforcement Learning from Human Feedback) 란 RLHF(Reinforcement Learning from Human Feedback)는 인간의 피드백을 통해 대규모 언어 모델(Large Language Models, LLMs)을 미세 조정하는 고급 기술입니다. 이 접근 방식은 모델의 성능을 인간의 평가를 기반으로 향상시키는 데 유용하게 사용될 수 있습니다. RLHF의 과정 모델 생성: 먼저, 사전 훈련된 모델을 기반으로 초기 어시스턴트 모델을 생성합니다. 이 모델은 일반적인 언어 이해 능력을 가지고 있습니다. 세밀한 조정 단계 2 (Fine-tuning Phase 2): 이 단계에서 모델은 특정 작업에 대한 이해를 심화시키기 위해 추가적인 훈련을 받습니다. 비.. 더보기
LLM 의 기본 구조와 모델 대규모 언어 모델(Large Language Model, LLM)의 구조와 작동 원리 대규모 언어 모델(LLM)은 최근 몇 년간 인공지능 분야에서 눈부신 발전을 이루었습니다. 이 포스팅에서 LLM의 기본 구조와 작동 방식, 그리고 이 모델들이 어떻게 훈련되는지에 대해 간단히 정리합니다. 기본적인 내용은 "Andrej Karpathy" 님의 유튜브 영상의 내용을 참고 하였습니다. LLM 구조와 동작원리 LLM의 기본 구조 LLM은 크게 두 가지 주요 파일로 구성됩니다: 파라미터 파일과 이 파라미터를 실행하는 코드입니다. 예를 들어, Llama2 70b 모델은 700억 개의 파라미터를 포함하고 있으며, 이는 메타 AI에 의해 개발된 모델입니다. 이러한 파라미터는 신경망의 'Weight'을 나타.. 더보기
LLama.cpp 설치하고 실행해보기 LLama.cpp 설치하고 실행해보기 Huggingface 최신 모델인 Upstage의 SOLAR를 llama.cpp를 사용하여 실행하는 방법에 대해 알아보겠습니다. 이 예제에서 사용된 SOLAR-10.7B 모델은 107억 개의 매개변수를 가진 강력한 언어 모델로, 자연어 처리(NLP)에서 탁월한 성능을 자랑합니다. 기존의 대형 모델들과 비교하여도 뛰어난 성능을 보이며, 간단한 미세 조정을 통해 이를 더욱 향상시킬 수 있습니다. 이 튜토리얼은 WSL2에서 Ubuntu 22.04와 Python 3.10.12 환경에서 테스트되었습니다. 사전에 transformer 와 huggingface-cli 가 설치되어있음을 가정합니다. llama.cpp 설치하기 llama.cpp 소스 코드 다운로드 및 빌드 먼저, l.. 더보기
Docker에서 Transformers를 이용하여 Phi-2 모델 실행해보기 Transformers를 이용하여 로컬에서 Phi-2 모델 실행해보기 마이크로소프트 리서치 팀의 최신 언어 모델인 'Phi-2'가 지난달 'Microsoft Ignite 2023' 행사에서 발표되었습니다. Phi-2 모델은 27억 개의 파라미터를 갖추고 있으며, 이는 상대적으로 작은 모델에 속함에도 불구하고 최대 25배 크기의 대형 모델과 동등한 성능을 발휘한다고 알려졌습니다. 'Phi' 시리즈는 트랜스포머(Transformer) 기반의 언어 모델로, 첫 번째 버전인 'Phi-1'은 파이썬 코딩에서 뛰어난 성능을 보여준 13억 개의 파라미터 모델입니다. 그 후속작인 'Phi-1.5'는 일반 추론과 언어 이해 능력을 향상시켜, 작은 크기에도 불구하고 5배 큰 모델과 비슷한 성능을 제공했습니다. Phi-2는.. 더보기
작지만 강력한 Phi 모델 혁명 소형 언어 모델 혁신: Phi 1과 Phi 1.5의 탄생 Microsoft Research Redmond 연구팀이 개발한 혁신적인 언어 모델, Phi 1과 Phi 1.5에 대해 정리하였습니다. 이 모델들은 기존 대형 언어 모델의 경계를 넘어, 작지만 강력한 새로운 방향을 제시합니다. 2023 년 11 월 일본에서 열린 AI forum 에서 Sebastien 이 발표한 내용을 참고 하였습니다. https://www.microsoft.com/en-us/research/event/ai-forum-2023/agenda/ AI Forum 2023 - Microsoft Research We are living in an exhilarating era where Artificial Intelligence (AI) i.. 더보기
Jekyll에서 Just the Docs 테마 적용하기 Jekyll에서 Just the Docs 테마 적용하기 이 포스팅은 Jekyll 사이트에 Just the Docs 테마를 적용하는 방법을 단계별로 정리합니다. 이 작업은 GitHub 계정이 필요하며, Docker와 Docker-compose가 설치된 WSL2(Ubuntu 22.04) 환경에서 테스트 하였습니다. Just the Docs 테마 fork 하기 1. 테마 fork 먼저, Just the Docs의 GitHub 페이지로 이동하여 'Fork' 버튼을 클릭해 자신의 GitHub 계정으로 테마를 복제합니다. 2. 테마 동작 확인 위와 같이 GitHub에서 fork한 후, Setting > General 에서 Repository name 을 아래와 같은 형식으로 변경합니다. 그리고, 브라우저를 사용해서.. 더보기
우분투 22.04에서 Jekyll 설치하기 우분투 22.04에서 Jekyll 설치하기 Jekyll은 간단하고, 블로그 지향적인 정적 사이트 생성기입니다. Ruby로 작성되었으며, 마크다운이나 텍스트 파일을 사용하여 정적 HTML 웹사이트를 생성합니다. 이 글에서는 우분투 22.04에서 Jekyll을 설치하는 방법을 단계별로 정리합니다. 2023년 12월 기준으로 최신 우분투 22.04 LTS 버전(Jammy Jellyfish)을 사용하였습니다. $ cat /etc/issue Ubuntu 22.04.3 LTS \n \l 1. 필요한 종속 모듈 설치 Jekyll을 설치하기 전에 필요한 종속 모듈을 설치합니다. $ sudo apt install make build-essential curl git tree -y $ sudo apt install rub.. 더보기
WSL에서 NVIDIA GPU 드라이버 설치하기 WSL에서 NVIDIA GPU 드라이버 설치하기 Windows Subsystem for Linux (WSL)에서 NVIDIA GPU를 사용하는 방법에 대해 알아보겠습니다. 특히 Windows 를 사용하는 소프트웨어 개발자와 데이터 엔지니어들에게 유용할 것입니다. WSL을 통해 Linux 환경에서 소프트웨어를 개발하는 동안 NVIDIA GPU의 강력한 성능을 활용할 수 있습니다. 1. CUDA Keyring 설치하기 먼저, NVIDIA CUDA 저장소의 GPG 키를 추가해야 합니다. 이는 저장소가 안전하고 신뢰할 수 있음을 보장합니다. $ wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-keyring_1.. 더보기

티스토리툴바