한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다.피지컬 AI의 이해AI가 현실 세계의 행동하는 지능이 되는 방법배경평소 소프트웨어가 디지털 세상을 벗어나 실세계에 영향을 미치기 위한 방법에 관심이 많았다. 인력을 통해 수동으로 처리되던 작업을 전산으로 처리하거나, 많은 사람들이 사용하는 편리한 기능을 가진 애플리케이션을 개발하는 것도 간접적으로 실세상에 영향을 미친다. 그러나 로봇이야말로 실세계에 직접적인 영향을 줄 수 있는 가장 간명한 방법이며, 소프트웨어와 하드웨어가 접목된 최첨단의 영역이라는 점이 항상 매력적으로 다가왔다. 평소에 잘 알지 못했던 영역이기에 책의 앞 1부, 2부를 빠르게 살펴보며 피지컬 AI에 대해 이해해보기로 했다.1부 피지컬 AI의 대두디지털 내에서 AI의 위..

본 내용은 LLM과의 대화 내용 요약을 기반으로 작성되었습니다. 글의 맥락을 참고하려면 이전 글을 참고해주세요. 핵심은 실제 연결을 유선으로 하고 있었는데, 무선 인터페이스 컨트롤러랑 매핑해서 연결이 안 됐다는 실수에 대한 내용입니다. OpenWrt x86을 Hyper-V에 설치하며 만난 VHDX Sparse 오류본 내용은 LLM과의 대화 내용을 요약한 것입니다핵심은 변환 과정에서 sparse 플래그가 1로 설정되니, 명시적으로 이를 해제해야 정상적으로 마운트가 이루어진다는 점입니다.OpenWrt x86을 Hyper-V에spems.tistory.com이전 글에서는 OpenWrt 이미지를 Hyper-V에서 부팅하기 위해 VHDX의 Sparse 속성을 제거했던 과정을 정리했다.이후 OpenWrt가 정상적으..

본 내용은 LLM과의 대화 내용을 요약한 것입니다핵심은 변환 과정에서 sparse 플래그가 1로 설정되니, 명시적으로 이를 해제해야 정상적으로 마운트가 이루어진다는 점입니다.OpenWrt x86을 Hyper-V에서 실행하기 위해 openwrt-25.12.5-x86-64-generic-ext4-combined-efi.img를 VHDX로 변환하여 연결하던 중, 예상하지 못한 오류를 만났다.환경Windows 11 + Hyper-VOpenWrt 25.12.5 x86-64Hyper-V Generation 2 (UEFI)Secure Boot 비활성화OpenWrt 공식 이미지는 combined-efi.img.gz 형태로 제공되므로, 먼저 압축을 해제한 후 qemu-img를 이용해 VHDX로 변환하였다. (이미지 파일..

한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다.배경이전에 사칙연산을 수행하는 에이전트를 작성해봤는데, 속도가 너무 느려 개선해보고 싶었다. 이 과정에서 책에서 참고한 내용을 정리한다. 책에서 제공하는 소스 코드도 살펴봤지만, 좋은 모델을 갖고 다양한 목적을 이루는 것에 집중한 예시들이 많아, 최적화와 성능 개선에 초점을 맞춘 이번 작업에 실질적인 참고는 되지 않았다. 그보단 에이전트의 동작 원리를 다룬, 원론적인 최적화 팁에서 참고할만한 내용들을 찾아볼 수 있었다. 계산 속도 개선배경이전 단계에서 두 가지 모델을 별도로 테스트해봤다.빠르지만 정확도 80% llama3.2 모델9배 느리지만 정확도 100% qwen3.5:2b 모델정확도 100%는 가지고 싶지만, qwen은 너무 느..

배경이전 단계에서 두 가지 모델을 별도로 테스트해봤다.빠르지만 정확도 80% llama3.2 모델9배 느리지만 정확도 100% qwen3.5:2b 모델정확도 100%는 가지고 싶지만, qwen은 너무 느려서 아쉽다고 생각했다. 처음에는 상호 피드백을 기반으로 하는 자가 진화적 시스템을 구상했으나, 기능에 맞지 않는 오버 엔지니어링이라 생각하여 채택하지 않았다. 다른 방법을 구상하기 위한 조사를 시작했다. llama가 실패하는 케이스를 살펴보면 일반적으로 좀 '헷갈릴만한' 질의였음이 드러났다. 가령, `-1 - 1 = ?`의 답은 -2인데, 기존의 프롬프트는 이를 `subtract(-1, -1)`로 처리하기도 했다. 나는 llama 모델의 기본적인 지능이 낮다는 것을 인정했다. 대신 그에게 정형화된 형태의..

배경공무원이나 공기업 등 공직자 채용 기준으로 한능검 자격이 요구되는 경우가 많다. 영구 자격증이라 반짝 집중해서 한 번 따보자는 생각을 했다. 핵심 준비기간은 4일. 다행히 노베이스는 아니었다. 한국사에서 유명하고 핵심이 되는 내용 절반 정도는 알고 있었다.준비 방법내 강점은 역사적인 흐름과 맥락을 알고 시작한다는 것이었지만, 약점은 막상 시험에 출제되는 키워드와 관계를 몰랐다는 것이다. 그래서 많은 벼락치기 수험생들이 하듯, 유명 기출 책을 구매해서 2회 반복해서 풀었다. 그 과정 중에 나만의 채점 자동화 시스템을 만들어 불필요한 시간 소모를 줄였고, 각 문제를 풀 때 스스로의 확신도를 기록했고, 그걸 바탕으로 해설집에 정오 외 풀이자의 메타 정보를 누적 기록하여 단권화했다.채점 자동화 시스템한능검은..

한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다.배경난 평소에 오픈소스 모델을 활용해보고 싶었다. 요즘 다들 누가 더 돈 많이 쓰는지 경쟁하는 느낌이라, 속세의 경쟁에서 벗어나 자연에서 힐링하는 느낌이었다. 게임에서도 약한 캐릭터를 사용해서 이기는 걸 좋아하는 편이다. (시작 배경과 관련된 자세한 내용은 링크 참조) 거대한 혁신을 마주한, 오늘날 우리의 자세AI 시대의 생산성과 불안, 그리고 오픈소스에 대한 생각AI는 정말 인간의 일자리를 대체하고 있을까최근 몇 년 사이 AI는 많은 노동자의 일자리를 위협하기 시작했다. 그러나 나는 현재 수준의 AIspems.tistory.com실습: 사칙연산 계산기LLM은 확률적 언어 모델이라, 일반적으로 이런 결정론적인 작업을 맡기는 것은 일반적이..

AI 시대의 생산성과 불안, 그리고 오픈소스에 대한 생각AI는 정말 인간의 일자리를 대체하고 있을까최근 몇 년 사이 AI는 많은 노동자의 일자리를 위협하기 시작했다. 그러나 나는 현재 수준의 AI가 사람의 업무를 완전히 대체했다고 보지는 않는다. 가령, 아무리 챗봇이 발달해도 상담사의 업무 일부를 대신해주는 것에 불과한 수준이다. 이는 업무의 과실 책임 등 AI의 대체 가능성만으로는 판단할 수 없는 가치들이 업무에 녹아있기 때문이다. 따라서, 실제 일어난 변화는 AI를 잘 활용하는 사람의 생산성이 급격히 높아졌다는 데 가깝다고 본다. 같은 일을 더 적은 인원으로 처리할 수 있게 되었고, 그 결과 기업 입장에서는 더 이상 많은 노동자를 유지할 필요가 없어진 것이다. 결국 AI는 사람을 '완전히 대체'했다기..

프리 티어 LLM 사용이번 문제를 해결하기 위해, 그리고 글을 쉽게 작성하기 위해 프리 티어 Gemini, ChatGPT를 사용했다. Gemini는 내가 제공했던 컨텍스트를 걷어내는 것을 추천해주었고, 그것이 실제로 정확도를 향상시켰는지의 여부와는 별개로, 오버헤드의 원인을 알게 되었다는 측면에서 큰 도움을 받았다. 이들 LLM에게는 시스템 프롬프트 작성을 거의 전적으로 의지했다. 불릿 포인트로 정리된 내용들은 Gemini가 정리해준 질의 컨텍스트를 내가 다시 다듬은 것이다. 업계에서 사용하는 정식 용어는 아닐지라도, 문제 상황을 잘 요약했다고 생각하여 그대로 사용했다.구조 개선: '가짜 컨텍스트' 제거테스트 케이스를 늘려 나갈수록 현재 에이전트가 얼마나 견고하지 못한지 느끼게 됐다. 막연하게 시스템 프..

가장 쉽게 검증할 수 있는 주제인 '계산기 만들기'로 가볍게 시작해보려 한다. 덕분에 테스트는 단순 명료하다.from model import plusdef test_answer(): assert plus(1, 1).value == 2 Ollama는 '구조화된 출력(structured-outputs)' 기능을 자체적으로 지원해서 정말 쉽고 빠르게 구현할 수 있었다. 다음에는 좀 더 복잡한 계산 기능을 구현하도록 해보자. from ollama import ChatResponsefrom pydantic import BaseModelclass Result(BaseModel): value: intdef chat(message: str): from ollama import chat respon..