임성혁 / AI / 개발 / 인프라
연구원 직원들이 업무에 필요한 AI 서비스를 직접 만들어 쓸 수 있도록 플랫폼을 설계하고 인프라를 구축합니다.
목차
01. Experience /
02. Tech Stack /
03. Projects /
04. Activity /
05. Community /
06. Awards
소속 / 직위 AI정보실 / 학생연구원 재직 기간 2025.09–현재 AI 서비스와 백엔드 개발, 온프레미스 인프라 구축 및 운영 자료를 외부에 보낼 수 없는 연구 환경에 맞춰 로컬 LLM 서버를 설계하고 식품데이터플랫폼에 연결했습니다. 이후에는 AX 플랫폼을 제안하고 Kubernetes로 기존 서비스를 옮기는 일까지 맡았습니다. 이제 직원들은 원내에서 직접 만든 웹서비스를 동료에게 배포하고 공유할 수 있습니다. 사내 규정 및 법률 질의용 Open WebUI 구축 업무 프로젝트 보기 ↓ / 데이터플랫폼 ↗
|
| Languages | |
| Backend | |
| Web & Mobile | |
| Data & Search | |
| AI & LLM | |
| Infrastructure | |
| CI/CD & Monitoring |
프로젝트 분류
3.1 Work Projects
3.2 Apps
3.3 AI Challenges
3.4 Campus Projects / 교내 프로젝트
01. 연구데이터플랫폼
02. AX 플랫폼
03. 직원이 만든 웹서비스의 원내 배포와 공유
04. 주문배송 관리 서비스
05. Kubernetes 클러스터 구축 및 서비스 이관
06. Ceph 분산 스토리지 구축 및 데이터 이관
07. vLLM 기반 LLM 추론 서비스
|
2025.09 - 현재 연구자의 자료 검색과 데이터관리계획 초안 작성을 지원하는 AI 서버입니다. 자료 반출 제약에 맞춰 원내 로컬 LLM을 선택했고, FastAPI와 LlamaIndex로 검색과 초안 생성 기능을 개발해 기존 데이터플랫폼에 연â� 8000 결했습니다.
공개 웹사이트 ↗ |
AX 플랫폼 / 아키텍처 및 성능 개선
- 중앙 플랫폼 Control API와 개인 실행환경 Gateway 계층을 분리했습니다. 요청은 공통 방식으로 전달하고, 실행환경의 Agent는 교체할 수 있습니다.
- 외부 실행 요청이 서버에 수락된 뒤 응답만 유실될 수 있어, 호출 전 실행 의도를 기록하고 수락이 확인되면 messageID와 수락 상태를 저장했습니다. 재연결 시 수락 여부가 불명확할 때는 바로 재전송하지 않고 기존 실행 상태와 messageID를 대조해 중복 전송을 막습니다.
- 빈 마지막 응답이나 다른 상위 요청의 응답이 완료로 잘못 판정되지 않도록 입출력 상태 관리와 완료 판정 정책을 분리했습니다. 상위 요청이 일치하고 최종 응답 본문이 채워진 경우에만 완료로 확정합니다.
- 자동 컨텍스트 압축이 생성 정지로 오판되거나 요약본이 최종 답변으로 처리되지 않도록 역할을 나눴습니다. 압축과 연속 실행은 OpenCode에 맡기고, Gateway는 별도 감시 타이머와 상태 기록으로 최종 답변을 추적합니다.
- 취소 직후 대기열 작업이 겹쳐 실행되지 않도록 취소 의도를 먼저 기록했습니다. 엔진의 중단 수락, 유휴 전환, 대상 요청 일치를 모두 확인한 뒤에만 취소를 확정하며, 상태가 불명확할 때는 실행 소유권과 대기열을 유지합니다.
동시 생성 요청, 상태 목록 반복 조회, 채팅 입력 과정에서 자원 경합과 중복 연산이 발생했습니다. 이를 줄이기 위해 요청 처리 순서와 상태 캐시, 콜백 참조 구조를 다시 설계해 반영했습니다.
- 여러 실행환경을 동시에 생성할 때 대기 중인 요청이 DB 접속을 미리 점유해, 처리 중인 요청이 추가 DB 접속을 얻지 못하고 실패했습니다. 자기 차례가 된 요청만 DB에 접속하도록 순서를 제어하고, 생성 정보를 저장한 즉시 DB 접속을 반납한 뒤 기동 확인 등 후속 작업을 수행하도록 바꿨습니다. 그 결과 동시 생성 재현 시험에서 DB 접속 실패가 240/300건에서 0/300건으로 줄었습니다.
- 다수 사용자가 목록을 동시에 조회할 때 같은 인스턴스 상태를 여러 요청이 중복 조회하는 문제가 있었습니다. RuntimeStatusCache로 진행 중인 조회와 결과를 공유하고, 인스턴스가 시작되거나 정지되면 캐시를 즉시 비우도록 구성해 재현 시험에서 배치당 상태 조회 API 호출을 240회에서 48회로 80% 줄였습니다.
- 채팅을 입력할 때마다 알림과 다운로드 콜백이 새로 생성되면서 내용이 바뀌지 않은 기존 답변(MarkdownMessage)까지 다시 그려졌습니다. useCallback으로 두 콜백 참조를 고정해 격리 컴포넌트 시험에서 불필요한 추가 렌더링을 300회에서 0회로 줄였습니다.
|
2026.09 - 현재 직원들은 업무에 필요한 웹서비스를 직접 만들어 동료와 나누고 싶어 했습니다. 제가 설계한 배포 기능은 AX 플랫폼의 개인 실행환경에서 만든 서비스를 원내에 공개할 수 있게 해 줍니다.
|
스토리지 및 배포 안정성 개선
도입해 둔 Ceph 전용 볼륨 구조를 활용해 파일 저장 전 용량 검사 지연을 줄였습니다. 아울러 배포 전환 중 기존 파일 전송을 유지하는 구조와 보존 자원 보호 정책을 설계해 적용했습니다.
- 저장할 때마다 파일 전체를 훑느라 파일 수가 늘수록 용량 검사도 길어졌습니다. 호스트 디스크의 여유 공간은 여러 사용자가 공유하는 값이어서 개인 할당량을 판단하는 데 쓸 수 없었습니다. 사용자 전용 Ceph RBD 볼륨의 XFS가 제공하는 값을 검증한 뒤 fs.statfs로 블록 통계를 읽도록 바꿨습니다. 개발 환경에서 측정한 파일 저장 지연의 95번째 백분위수(p95)는 3472.55ms에서 832.64ms로 76.02% 줄었습니다.
- 배포 시 기존 Pod를 남겨 두더라도 단일 Service selector를 바로 전환하면 진행 중이던 업로드와 다운로드가 끊길 수 있었습니다. 별도 연결 보존 ClusterIP Service로 기존 엔드포인트를 유지하고, 새 Deployment 준비를 확인한 뒤에만 신규 요청을 전환하며, 이전 세대의 연결이 모두 비워진 것을 확인한 뒤 정리하도록 구성했습니다.
- 후보 배포 환경이 보존 대상 Namespace와 PVC를 임의로 소유하거나 삭제하지 못하도록 Argo 허용 리소스 종류를 제한했습니다. 보존 Namespace와 PVC의 삭제 방지 설정 및 PVC 용량 축소 금지는 GitOps CI에서 자동으로 검사합니다.
08. Replant
09. 가야디 / Gayadi
10. Chickadee Studio
11. SCPC 2026 AI Challenge
12. 연금 어드바이저 / mirae_pj
13. TREC 2024 Product Search
14. TREC 2025 Product Search & Recommendations
15. K-Policy-LLM
16. AWS 기반 미국 공시 및 뉴스 요약 서비스
17. 조건별 장소 검색 웹서비스
18. 웹서비스설계 과제
19. Java 게임 개발
20. COALA 홈페이지
21. JBIG 홈페이지
수업 과제와 동아리 홈페이지 개발 프로젝트입니다.
재학 중 사용한 GitHub: highcastle01 ↗
|
2023년 1학기 / 객체지향프로그래밍 수업 과제 객체지향프로그래밍 수업 과제로 Java를 사용해 게임을 구현했습니다. |
|
온라인 AI 교육 이수 / 온라인 해커톤 참여 교육 2025.01.02–2025.01.27 온라인 AI 교육을 이수한 뒤 난임 환자의 임신 성공 여부를 예측하는 온라인 해커톤에 팀으로 참여했습니다. 관련 논문으로 도메인 지식을 보완하고 XGBoost와 앙상블 기법을 적용해 모델 성능 개선을 시도했습니다. |
|
개발 동아리 회장 회장으로 임원들과 스터디·멘토링을 운영하고, 부원들이 공지와 자료를 찾아보며 모집과 활동에 참여할 수 있는 동아리 웹사이트를 개발했습니다. |
|
인공지능 동아리 임원 및 부원 임원으로 동아리와 스터디 운영에 참여하고, 회원들이 학습 자료를 열람하며 글을 작성하고 스터디·프로젝트 모집에 지원할 수 있는 웹사이트를 개발했습니다. |
- 2025 / JBNU SW·AI 경진대회 AI 부문 장려상
- 2024 / 오픈소스 SW 아이디어 해커톤 캠프 팀 최우수상 — 취약점 분석
- 2024 / 한국디지털콘텐츠학회 추계종합학술대회 대학생 논문경진대회 은상
- 2024 / 2학기 SW캡스톤디자인 경진대회 장려상
- 2023 / 컴퓨터인공지능학부 해킹대회 특별상
