전체 글

Spring AI에서는 AI 모델과 통신하기 위해 Prompt와 Message라는 객체를 사용하고 있습니다. 오늘은 Chat Client API에서 요청을 보낼 때 사용되는 Prompt와 Message라는 객체에 대해 알아보려고 합니다. Prompt란?AI 모델에게 사용자 의도를 가이드해 주는 문장을 말 하며, 사용자의 입력과 직간접적으로 연결되어 있기 때문에 Prompt를 잘 작성하는 것이 AI 모델의 응답을 보다 더 정확하게 추출할 수 있습니다.간단히 예를 들면, 사용자가 "사과에 대해 알려줄래?"라고 AI 모델에 요청했을 때, AI 모델은 "사과"라는 단어에 대해 "과일(물체)로서의 사과"와 "행위(감정)으로서의 사과" 이 두 가지 의미를 명확하게 인지하지 못하기 때문에 사용자가 원하는 답변이 나오..

요즘 LLM 기술을 활용한 사례가 많아지면서, 저도 파이썬 Langchain 기반의 LLM 파이프라인을 구성했었는데요,본래, Spring 개발에 더 익숙했던지라, Spring AI를 통한 개발을 진행해보려고 합니다. Chat Client란?Spring AI에서 제공하는 Porterable API로, AI 모델과의 통신을 지원해 주는 도구입니다. 보통 LLM에서 주로 사용하는 용어인 Prompt를 통해 AI 모델과 통신합니다.AI 모델은 두 가지 메시지를 통해 통신하는데요, 사용자가 입력한 메시지와 시스템에 안내하기 위해 생성되는 시스템 메시지입니다.사용자 메시지는 알겠는데.. 시스템 메시지란 뭘까요?시스템 메시지란, 사용자가 입력한 메시지를 AI 모델이 이해하기 쉽도록 개발자가 가이드를 내려주는 메시지를..

Spring AI란?서버 개발자가 AI를 개발하기 위해서는 많은 복잡성과 러닝커브가 존재합니다.Spring AI는 AI 개발의 복잡성을 최소화하여 앞으로 Spring 개발자가 AI 개발의 생산성을 높이기 위한 프로젝트로 사용될 수 있을듯 합니다.또한, AI 벤더(Open AI, Gemini 등)에 의존하지 않고 Spring에서 지향하는 추상화를 통해 이러한 기능들을 제공합니다. 이번 포스팅에서는 Spring AI에서 다루고 있는 요소들에 대해 간단히 알아보겠습니다. Porterbale APIAI 벤더들에 의존하지 않고, API call 방식을 통해 사용할 수 있는 기능을 제공해줍니다.채팅, 텍스트-이미지 변환, 임베딩 모델을 위한 API 제공 및 동기/비동기 스트리밍 기능을 제공해줍니다. POJO 기반..

C++의 특성C++을 초기에 사용할 때 가장 먼저 마주치는 오류인듯 한데요, Java 기반의 언어를 주로 다뤄왔기 때문에 메모리를 수동으로 관리하는 C의 특성을 잘 이해하지 못 해서 해당 오류를 마주치게 되었습니다. C++의 경우, C 언어와 마찬가지로 메모리를 수동으로 관리하는 특성을 가지고 있는데요, 다음과 같이 포인터(*)를 선언하는 행위를 통해 메모리에 직접 접근할 수 있습니다.struct FreeNode { FreeNode* next;}; 코드 예시C++은 메모리를 수동으로 관리한다는 특성 때문에 많은 제약을 가지고 있는데요, 그 예시중 하나가 다음 메모리 할당 코드의 예시입니다.// MemoryPool.cppclass MemoryPool {private: struct FreeNode..

우리는 보통 Java에서 JSON으로 직렬화를 많이하고, 이 때 사용하는 대표적인 라이브러리가 Jackson과 Gson입니다. Gson의 경우 사용법이 간단하지만, 개인적으로 커스텀하게 사용할 수 있는 부분이 적어 아쉬운 관계로 Jackson을 애용하는데요, Jackson에서 제공하는 다양한 직렬화 방법을 소개하고자 합니다. 직렬화란? 우리가 만든 자바 코드는 내부적으로 동작할 때는 문제가 없지만, 서버 외부와 통신하거나 엑셀 등의 출력을 위해 자바 코드를 외부와 소통할 수 있게 만드는 작업을 직렬화라고 합니다. 자바 진영에서의 직렬화는 보통 자바의 직렬화 방법과 JSON 직렬화가 대표적인데, 오늘 소개할 방법은 자바 직렬화보다 비교적 간단한 JSON 직렬화 방법입니다. JSON 직렬화는 자바 코드에 매..

Java 언어에서는 전역 변수를 제어하기 위한 다양한 키워드 및 메서드를 제공해줍니다. 대표적인 예로는 volatile, static 등이 있죠. Volatile의 경우, 스레드 간에 변수 값을 항상 "최신 상태로" 보게 보장해주는 키워드입니다.Volatile은 다음과 같은 특징을 가지고 있습니다.가시성 보장: 한 스레드에서 변경한 값을 다른 스레드가 즉시 볼 수 있게 함메모리 캐시 무시: CPU 캐시에 있는 값을 사용하지 않고, 메인 메모리에서 직접 읽고 씀보통 서버 내부적으로 다수의 스레드가 동작할 때, 변수 값의 일관성을 확보하기 위해 사용하는 방법입니다. 아니 근데.. 정적 키워드 static이 있지않나요..??  static 키워드의 경우, "같은 값을 공유"하지만, "최신 값"은 보장하지 않는..

QueryDSL 의존성 추가를 위해서는 다음 두 가지 의존성을 추가해야 합니다.implementation("com.querydsl:querydsl-jpa:5.0.0:jakarta")annotationProcessor("com.querydsl:querydsl-apt:5.0.0:jakarta") 문득, 개발을 하다가 궁금한 점이 생겼는데, querydsl-jpa 의존성 하나로 해결할 수 없을까? 라는 생각으로 이번 글을 작성하게 되었습니다. 우선 querydsl 저장소를 살펴보면, 다음과 같이 다양한 의존성을 제공하고 있습니다. 그 중에서 우리가 사용하는 querydsl-jpa와 querydsl-apt도 볼 수 있습니다. 그리고, 우리가 사용하는 querydsl-jpa의 의존성을 보면 다음과 같이 query..

AWS EventBridge란? Event는 특정 작업이 수행될 때 그에 따른 부가 작업이 수행되는 서비스를 말하며, 이 Event는 작업의 순서에 따라 동작할 수도 있고 일정에 따라 동작할 수도 있는 유동적인 기능입니다. AWS 에서는 이 이벤트 버스, 일정 스케줄링, 파이프라인 등을 통해서 특정 작업을 Trigger 할 수 있는 기능을 제공하는 EventBridge라는 기능을 제공하는데요, EventBridge의 기능 중에 보통 대중적으로 많이 사용하는 일정 관련 스케줄링을 설정하는 서비스를 알아보려합니다. AWS 일정 관리 우리는 흔히 스케줄링이라고 하는 기능을 사용하여, 특정 시간에 반복적으로 동작하는 서비스를 구성할 떄 사용하는 기능입니다. 일정 관리 설정 [EventBridge]의 [일정] 메..