본문 바로가기

전체 글

(103)
Prompt Engineering 개요 Token텍스트를 구성하는 가장 작은 단위LLM 상업 서비스에서 비용을 청구하는 기준이 사용된 토큰 양토큰 제한이 걸리면 더 이상 토큰을 예측하지 않 Prompt EngineeringLLM이 정확한 결과를 생성하도록 안내하는 고품질의 프롬프트를 설계하는 과정 TemperatureScale : 0~2토큰 선택의 무작위성을 제어0에 가까우면 사실/팩트에 가깝게2에 가깝게 하면 후보들을 여러개를 제시해서 창의성을 높게 답변을 한다. CoT(Chain of Thought)란?정의모델이 문제를 해결하기까지의 ‘중간 사고 과정(추론 단계)’을토큰 형태로 전개하는 방식즉,❌ 바로 정답만 내는 것⭕ 생각 → 단계 → 결론 구조로 답변 생성예시로 바로 이해하기❌ CoT 없이 Q: 12 + 19는? A: 31 ⭕ CoT ..
생성형 AI 이해 LLM이란LLM은 대규모 언어 모델 (Large Language Model)의 약자로, 방대한 텍스트 데이터를 학습하여 인간의 언어를 이해하고 생성하며 번역, 요약, 질의응답 등 다양한 자연어 처리(NLP) 작업을 수행하는 고도화된 인공지능 모델입니다. 이는 수십억 개 이상의 파라미터(매개변수)를 가진 복잡한 신경망 구조(주로 트랜스포머 기반)로, ChatGPT와 같은 생성형 AI의 핵심 기술이며, 챗봇, 정보 검색, 콘텐츠 제작 등에 활용됩니다. LLM의 주요 특징 및 기능대규모 학습: 책, 웹사이트 등 엄청난 양의 텍스트 데이터를 학습하여 언어의 패턴과 의미를 파악합니다.언어 이해 및 생성: 문맥을 이해하고, 인간과 유사한 자연스럽고 일관된 텍스트를 생성합니다.다양한 작업 수행: 질문에 답하기, 텍스..
AI 개요 1. AI(Artificial Intelligence) 전체 개요AI란?인간의 지능적 행동(인식, 판단, 학습, 추론, 생성 등)을 기계가 수행하도록 만드는 기술의 총칭 AI ├─ 규칙 기반 AI (Rule-based) ├─ 머신러닝 (Machine Learning) │ ├─ 지도학습 │ ├─ 비지도학습 │ └─ 강화학습 └─ 생성형 AI (Generative AI) 2. 규칙 기반 AI (전통적 AI)개념사람이 if-then 규칙을 직접 정의학습 X, 데이터로 스스로 개선 X예시룰 기반 챗봇금융/보험 심사 규칙 엔진방화벽 정책, IDS 시그니처특징✅ 예측 가능❌ 확장성·유연성 부족❌ 복잡한 패턴 처리 불가👉 AI의 시작점, 지금은 보조적 역할3. 머신러닝 (Machine Learning)..
[Network] CNI 비교 (OVN, Calico, Flannel, Cilium) 🔎 네트워크 방식 & 기술 포인트구분OVN-KubernetesCalicoFlannelCilium기본 방식Overlay (Geneve), Hybrid 지원Overlay(VXLAN, IP-in-IP) or Direct Routing (BGP)Overlay(VXLAN, host-gw)eBPF 기반 datapath커널 의존성OVS(Open vSwitch) 필요iptables / BPF 혼용iptables 기반eBPF (커널 >= 4.9 권장)주요 구성요소ovn-northd, ovnkube-node/mastercalico-node, bird (BGP 모드 시)flanneld (데몬셋)cilium-agent, HubblePod IP 처리OVN DB 관리, OVS 플로우HostRouting 또는 BGP단순 Over..
[Network] Metal LB, BGP, Hostnetwork 요약 비교표항목1) L4 + BGP + MetalLB2) MetalLB 단독3) L4 + ClusterIP(hostNetwork=true) 트래픽 경로Client → L4(라우터) ⇄ BGP 피어링 ⇄ MetalLB(VIP) → Router PodClient →(L2 ARP/NDP 또는 BGP)→ MetalLB(VIP) → Router PodClient → L4 포트포워딩 → 특정 Node:Port(Router hostNetwork)확장/HA높음: BGP/ECMP, 노드 장애 시 경로 자동 수렴높음: BGP 모드면 1과 유사 / L2 모드도 노드 헬스에 따라 VIP 이동낮음~중간: Node 변경·장애 시 L4 규칙/목표 IP 수정 필요보안/정책강함: L4의 ACL/WAF/TLS 오프로딩/DoS 방어 활용..
JVM Garbage Collection 1. GC(Garbage Collection)란? Heap Memory를 재활용 하기 위해 사용하지 않는(참조되지 않는) Object들을 해제해 가용한 공간을 만드는 작업. 신규 업무가 들어오면 Eden 영역에 매핑되고, 이어서 S0영역으로 이동한다. 사용이 없는 경우 S1로 이동하게 되며, Young Generation에서 이루어지는 과정은 Minor GC라고 한다. 이후 Old Generation으로 이동하게 되며, Old Generation 까지 가득 차게 되면 Major GC가 발생하게 된다. Minor GC : Young 영역에서 발생하는 GC Major GC : Old 영역에서 발생하는 GC Full GC : Heap 전체를 Clear 하는 작업 2. GC 방식 Serial GC : Old 영..
[Tomcat] JDBC 옵션 AttributeDescription defaultAutoCommit (boolean) The default auto-commit state of connections created by this pool. If not set, default is JDBC driver default (If not set then the setAutoCommit method will not be called.) defaultReadOnly (boolean) The default read-only state of connections created by this pool. If not set then the setReadOnly method will not be called. (Some drivers don't suppor..
[JSP] [게시판 만들기] - 00. 환경 구성 (mac 환경 jdk, eclipse, git) 1. JDK 설치 Java Development Kit 조금 오래되긴 했지만, 가장 많이 사용되고 있는 jdk1.8을 사용했다. www.oracle.com/java/technologies/javase/javase-jdk8-downloads.html 2. Eclipse 개발 환경을 제공하는 툴 www.eclipse.org/downloads/packages/ Eclipse Packages | The Eclipse Foundation - home to a global community, the Eclipse IDE, Jakarta EE and over 350 open source pro 519 MB 537,930 DOWNLOADS Tools for developers working with Java and W..