클라우드 LLM의 한계를 넘어, 전장설계 업무에 특화된 AI Agent를 직접 개발하기로 했다.

개발 1일차, 나는 왜 EVA를 만들기로 했는가?
전장설계 업무를 하면서 언젠가는 우리 업무에 특화된 AI Agent를 직접 개발하고 싶다는 생각을 해왔다. 단순히 질문에 답변하는 AI가 아니라, 전장설계 엔지니어의 업무를 이해하고 함께 고민하며 실질적인 업무를 수행할 수 있는 시스템을 만들고 싶었다. 궁극적으로는 자율적인 판단과 도구 활용이 가능한 Agentic AI로 발전시키는 것이 목표다.
자동차 와이어링 하네스 설계부터 조선기자재 전장설계까지 실무를 경험하면서 반복적인 설계 업무와 방대한 기술자료를 보다 효율적으로 관리할 방법이 필요하다고 느꼈다. 그리고 오늘, 그 생각을 실현하기 위한 첫걸음을 내디뎠다.
프로젝트의 이름은 EVA(Electrical Virtual Assistant). 전장설계 엔지니어를 위한 가상의 업무 지원 파트너라는 의미를 담았다.
1. 클라우드 LLM을 사용하면서 느낀 한계
그동안 ChatGPT, Claude, Gemini 등 다양한 클라우드 기반 LLM을 업무에 활용해 왔다. 전기 회로 분석, 기술자료 검색, 부품 사양 비교, 업무 자동화 등에서 AI의 가능성을 확인했다. 하지만 전문적인 전장설계 업무에 적용하면서 몇 가지 한계도 발견했다.
전문적인 기술지식의 한계
일반적인 전기 이론이나 회로 구성에 대해서는 상당히 만족스러운 답변을 제공하지만, 실제 산업 현장에서 사용하는 특정 제품이나 설비에 관한 질문에서는 부정확한 답변을 제공하는 경우도 있었다.
PLC 모듈의 결선 방식, 차단기의 보호협조, 방폭 기자재의 적용 기준, 센서 신호의 특성 등은 정확한 제조사 기술자료와 설계 기준을 바탕으로 판단해야 한다.
그러나 LLM은 학습된 정보와 입력된 문맥을 기반으로 답변을 생성하기 때문에 항상 정확성을 보장하지 않는다. 첫 번째 답변에서 잘못된 정보를 제공하면 사용자가 이를 다시 검증하고, 추가 자료를 제공하면서 재차 질문해야 한다. 앞선 잘못된 전제가 이후 답변에도 영향을 줄 수 있다.
결국 업무 효율을 높이기 위해 도입한 AI가 오히려 추가적인 검토 업무와 재작업을 발생시키기도 한다.
토큰 사용량과 비용 문제
클라우드 LLM을 지속적으로 활용하는 과정에서 토큰 사용량도 고려해야 했다. 개인적인 질문이나 단순한 자료 검색은 크게 부담되지 않지만, 여러 설계자가 매일 도면과 기술자료를 분석한다면 업무 규모에 비례하여 API 사용 비용이 증가할 수 있다.
모델마다 사용량과 입력 가능한 문맥의 한계도 존재한다. 무엇보다 기업 내부의 설계 도면과 기술자료를 외부 클라우드에 전송하는 과정에서 정보보안 문제도 고려해야 한다.
이러한 문제를 해결하기 위해서는 기존 클라우드 LLM을 사용하는 것에서 한 단계 더 발전한 접근이 필요하다고 판단했다. 이것이 내가 전장설계 맞춤형 AI Agent 개발에 관심을 갖게 된 이유다.
2. 내가 개발하고 싶은 전장설계 AI Agent
일반적인 챗봇은 사용자가 질문하면 답변을 제공한다. 하지만 내가 구상하는 EVA는 사용자의 요청을 이해하고, 필요한 업무를 판단한 뒤 적절한 도구와 데이터를 활용하여 결과를 만들어내는 시스템이다.
예를 들어 설계자가 특정 호선의 설계 진행 현황을 요청하면 다음과 같은 업무를 수행하도록 만드는 것이다.
- 사용자 요청 및 의도 분석
- 필요한 데이터와 업무 유형 판단
- ERP 또는 내부 데이터 조회
- 조회 결과 분석 및 정리
- 오류 및 누락 사항 검증
- 사용자에게 최종 결과 제공
특정 전장품의 결선 방법을 질문한다면 저장된 제조사 매뉴얼과 기술자료를 검색하여 해당 자료를 근거로 답변을 제공하도록 구성하고 싶다.
단순히 대화를 잘하는 AI가 아니라 실제 업무에 필요한 행동을 수행하는 AI Agent. 이것이 EVA 개발의 궁극적인 방향이다. 개별 기능을 연결하고 계획과 실행, 결과 검증이 가능한 Agentic AI 시스템으로 발전시키고 싶다.
3. AI Agent 개발 계획정의서 작성
무작정 프로그램 개발을 시작하기보다 먼저 프로젝트의 목적과 개발 범위를 정리하기로 했다. 명확한 목표와 시스템 설계 없이 개발을 시작하면 기능이 복잡해질수록 유지보수가 어려워질 수 있기 때문이다.
| 개발 항목 | 개발 목표 |
|---|---|
| 전장설계 지식 검색 | 제조사 매뉴얼 및 사내 기술자료 활용 |
| 설계공정 관리 | 프로젝트별 진행 현황 및 실적 조회 |
| 기술지원 업무 | 과거 AS 및 기술지원 유사 사례 검색 |
| 도면 자동 검토 | Wiring, 회로도, 결선도 검증 |
| 일정 관리 | 팀 일정 조회 및 업무 자동화 |
| 로컬 AI | 클라우드 의존도 및 운영 비용 절감 |
| Agentic AI | 요청 분석 및 업무별 도구 실행 |
처음부터 모든 기능을 완성하는 것은 현실적으로 어렵다. 우선순위를 정하고 개별 기능을 단계적으로 구현한 뒤 하나의 통합 시스템으로 발전시키는 방향을 설정했다.
4. n8n을 활용한 AI 오케스트레이션

EVA의 시스템 구조를 고민하면서 가장 먼저 검토한 플랫폼은 n8n이다. n8n은 여러 시스템과 API, 데이터베이스 등을 연결하여 업무 흐름을 자동화할 수 있는 워크플로우 플랫폼이다.
여기서 중요한 개념은 오케스트레이션(Orchestration)이다. 여러 시스템과 기능이 정해진 목적을 달성하도록 전체적인 흐름을 관리하는 것을 의미한다.
EVA에서는 n8n을 중심으로 사용자의 요청을 전달받고, 요청 유형에 따라 필요한 데이터를 조회하거나 AI 모델을 호출하는 구조를 구상했다.
설계 진행 현황에 관한 질문이라면 데이터베이스를 조회하고, 기술적인 질문이라면 전문 지식 검색 시스템을 실행하는 방식이다. 모든 업무를 LLM에 의존하는 것이 아니라 프로그램으로 정확하게 처리할 수 있는 업무는 프로그램으로 수행하고, 판단이나 자연어 처리가 필요한 부분에 AI를 활용하는 것이다.
이러한 하이브리드 구조가 정확성과 효율성을 동시에 확보하는 데 도움이 될 것이라고 생각한다.

flowchart TD
A[사용자 요청] --> B[n8n 오케스트레이션]
B --> C[ERP / 내부 데이터]
B --> D[Qdrant / RAG]
B --> E[도면 검증 로직]
C --> F[LLM 결과 정리]
D --> F
E --> F
F --> G[검증 및 응답]
5. Ollama를 활용한 Local LLM 적용 구상
클라우드 LLM의 사용 비용과 정보보안 문제를 해결하기 위한 방안으로 로컬 LLM도 검토하기 시작했다. 그중 관심을 가진 것은 Ollama이다.
Ollama를 활용하면 오픈 모델을 개인 PC 또는 내부 서버에서 실행할 수 있다. 외부 LLM API 호출에 따른 토큰 비용을 줄일 수 있고, 시스템을 적절하게 구성한다면 내부 기술자료를 외부로 전송하지 않고 활용할 수도 있다.
물론 로컬 LLM에도 한계는 있다. 하드웨어 성능, 모델 크기, 응답 속도, 추론 능력을 고려해야 하며 모든 업무에서 클라우드 LLM과 동일한 성능을 기대하기는 어렵다.
따라서 EVA는 로컬 LLM을 우선 활용하고, 고도의 추론이 필요한 경우에 보안 기준을 고려하여 클라우드 LLM을 선택적으로 활용하는 하이브리드 AI Agent 시스템으로 발전시키고자 한다.
6. Qdrant와 RAG를 활용한 AI Agent 전문 지식 구축
아무리 성능이 좋은 AI 모델이라도 우리 회사의 설계 기준, 제품별 사양, 과거 기술지원 사례까지 모두 알고 있는 것은 아니다.
이러한 문제를 해결하기 위해 검토한 기술이 바로 RAG(Retrieval-Augmented Generation), 검색 증강 생성 기술이다. 사용자의 질문과 관련된 외부 자료를 검색한 뒤, 해당 내용을 LLM에 전달하여 답변을 생성하도록 구성하는 방식이다.
벡터 데이터베이스로는 Qdrant의 활용을 검토하고 있다. 전장품 매뉴얼, 설계 표준서, 기술지원 이력 등을 검색 가능한 형태로 구축하고, 질문과 관련성이 높은 자료를 찾아 AI가 참고할 수 있도록 하는 것이다.

flowchart TD
A[기술자료] --> B[문서 분할 및 임베딩]
B --> C[Qdrant 벡터 DB]
D[사용자 질문] --> E[질문 임베딩]
E --> C
C --> F[관련 문서 검색]
F --> G[LLM 답변 생성]
G --> H[근거 및 결과 검증]
RAG를 적용한다고 AI의 환각 현상이 완전히 사라지는 것은 아니다. 검색 정확도와 기술자료의 신뢰성을 확보하고, 결과를 검증할 수 있는 체계도 함께 개발해야 한다. 이것 역시 앞으로 해결해야 할 중요한 개발 과제이다.

7. 전장설계 엔지니어의 바이브 코딩 도전
나는 전문 소프트웨어 개발자가 아니다. 오랜 시간 전장설계 업무를 수행해 온 엔지니어다. 하지만 실제 업무에서 무엇이 불편하고 어떤 기능이 필요하며 어떤 기준으로 결과를 검증해야 하는지는 잘 알고 있다.
바이브 코딩은 이러한 현장 경험과 AI의 프로그래밍 능력을 결합할 수 있는 새로운 개발 방식이라고 생각한다.
내가 업무 로직과 요구사항을 정의하고 AI가 코드 작성을 지원한다. 작성된 프로그램을 직접 실행하면서 오류를 수정하고 기능을 개선한다. 이러한 과정을 반복하면서 기존에는 개발하기 어려웠던 나만의 업무 시스템을 만들어갈 수 있다.
물론 AI가 작성한 코드 역시 보안과 기능적인 검증을 거쳐야 한다. 코드가 실행된다는 것과 실제 업무에 안정적으로 적용할 수 있다는 것은 전혀 다른 문제이기 때문이다.
8. 본업과 AI Agent 개발을 병행한다는 것
사실 가장 어려운 것은 기술 자체보다 개발에 집중할 시간을 확보하는 일이다. 나는 전장설계팀의 업무를 담당하고 있기 때문에 하루 종일 EVA만 개발할 수 있는 상황이 아니다. 설계 일정과 도면 검토, 기술지원, 팀 업무를 먼저 처리해야 한다.
그 사이 짬짬이 시간을 내어 AI Agent의 구조를 고민하고 코드를 작성한다. 문제 하나를 해결하려고 시작했다가 갑작스럽게 다른 업무를 처리해야 하는 경우도 있다. 다시 개발을 이어갈 때는 어디까지 진행했는지부터 확인해야 한다.
개발하다 막히는 부분이 생기면 머릿속에서 쉽게 떠나지 않는다. 평일에 해결하지 못한 문제가 있으면 때로는 주말에도 회사에 나가 다시 테스트하고 원인을 찾는다. 오류 메시지 하나를 해결하기 위해 몇 시간을 보내기도 한다. 전문 개발자가 아닌 나에게는 낯선 기술을 하나씩 이해하는 것 자체가 도전이다.
그럼에도 EVA 개발을 이어가는 이유는 분명하다. 내가 매일 겪는 업무의 불편함을 직접 개선할 수 있다는 기대 때문이다. 작은 기능 하나가 정상적으로 동작하는 모습을 보면 다음 기능에도 도전하고 싶어진다.
앞으로는 성공한 결과뿐 아니라 실패한 시도와 해결 과정도 개발 일지에 남기려 한다. 다음에 같은 문제를 마주했을 때 참고할 수 있고, 나처럼 본업을 병행하면서 AI를 개발하고 싶은 사람에게도 도움이 되기를 바란다.
9. AI Agent 개발 1일차를 마무리하며
오늘은 EVA라는 프로젝트의 이름을 정하고, 개발 목적과 방향성을 정의하는 시간을 가졌다. n8n을 중심으로 한 업무 오케스트레이션, Ollama 기반 로컬 LLM, Qdrant와 RAG를 활용한 전문 지식 검색 등 앞으로 개발할 시스템의 기본 구조도 구상했다.
아직은 계획 단계이며 실제로 해결해야 할 기술적인 문제도 많을 것이다. 하지만 처음부터 완벽한 시스템을 만들겠다는 생각보다는 하루에 하나씩 필요한 기능을 구현하고 검증하면서 성장시키고 싶다.
최종적으로 EVA가 전장설계 엔지니어의 반복 업무를 줄이고, 기술적인 의사결정을 지원하며, 설계 오류를 사전에 예방할 수 있는 든든한 파트너가 되기를 기대한다.
AI를 사용하는 엔지니어에서 AI를 설계하는 엔지니어로.
오늘부터 EVA의 개발 일지를 기록한다.
EVA PROJECT — DAY 01
개발 상태: 프로젝트 기획 및 시스템 아키텍처 구상
관련 기술 공식 사이트
태그: AI Agent, Agentic AI, EVA개발일지, 전장설계, 로컬LLM, n8n, Ollama, Qdrant, RAG, 바이브코딩, 업무자동화
