전체 글201 Qwen2.5_14B의 GPU를 분산할 때 num_shards 제약사항 TGI 엔진으로 Qwen2.5_14B의 num_shards를 1, 2를 넣었을 때는 정상적으로 컨테이너가 생성되고 실행됐는데, 3을 넣은 순간 컨테이너는 생성되었지만, 실행이 되지 않는 오류가 발생했다.[rank2]: ValueError: `num_heads` must be divisible by `num_shards` (got `num_heads`: 40[rank2]: and `num_shards`: 3 rank=22026-02-24T06:08:39.933566Z ERROR text_generation_launcher: Shard 2 failed to start2026-02-24T06:08:39.933628Z INFO text_generation_launcher: Shutting down shards.. 2026. 2. 24. React 앱의 흐름 AI 에이전트를 제작하는 프로젝트를 진행하며, 각 LLM모델들을 평가하고, 파라미터값을 조정하여 현재 프로젝트의 도메인과 각 기능에 맞게 파라미터 값을 조정해야 했다. 그래서 평가를 좀 더 쉽고, 간단하게 할 수 있도록 PlayGround를 제작하려고 한다.다만, Web Front-end 개발은 처음이기 때문에 우리 팀에서 기존에 사용하던 React를 사용해야 팀 내부에서 좀 더 빠르게 피드백하고, 러닝 커브가 적을것이라 판단해 React + Vite 를 사용한 PlayGround 개발을 하고자 한다.살펴보니 Vite, Create React App 등과 같은 빌드 도구들에 대한 공부가 필수적으로 따라가야하지만, 해당 부분을 짚고 넘어가기엔 이번 포스팅의 React에 대한 초점이 흐려질 것 같아 추후 포.. 2026. 2. 23. [프로그래머스] 조이스틱 - Java https://school.programmers.co.kr/learn/courses/30/lessons/42860?language=java# 프로그래머스SW개발자를 위한 평가, 교육의 Total Solution을 제공하는 개발자 성장을 위한 베이스캠프programmers.co.kr ⭐️ 중요 포인트1. 알파벳 'N'을 기점으로 절댓값의 offset 기점이 바뀌므로 A to Z까지의 각 최소 오프셋을 구해 상하로 움직이는 조이스틱의 전체 횟수를 구한다.2. 다음 세 경우에 대한 좌우 조이스틱 이동 횟수를 구한다.이 때, A가 다수 겹치는 구간의 경우 스킵할 수 있음(반대쪽으로 돌아가기). 그 이유는 기본 값이 A로 셋팅되어있기 때문에 굳이 A가 여러 개 반복되는 구간을 지나갈 필요가 없다.ex) "AAAA.. 2025. 12. 17. [백준] 20055. 컨베이어 벨트 위의 로봇 - Java https://www.acmicpc.net/problem/20055 ⭐️ 중요 포인트1. 각 기능을 함수 별로 나누어 푸는게 중요했다. 이 문제는 단순 구현 및 시뮬레이션이기때문에 구현을 얼마나 명확하게 하는가가 중요하여 기능별로 함수를 정의했다.2. 로봇이 움직인 자리는 false, 로봇이 이동한 자리는 true로 변경하는 것을 잘못 구현하여 처음에는 틀렸었다.import java.util.*;import java.io.*;public class P20055 { static BufferedReader br; static BufferedWriter bw; static StringTokenizer st; static int n; static int k; static int[.. 2025. 10. 29. [백준] 12919. A와 B 2 - Java https://www.acmicpc.net/problem/12919 ⭐️ 중요 포인트1. 처음에는 s -> t를 향해 정답을 찾으려고 했다. 하지만 시간복잡도를 계산해보니 대충 계산해봐도 O(2^50)... 절대 이 방식대로 풀 수 없다고 생각했다. 그래서 경우의 수를 계속 늘리며 찾는 방식보단 t -> s로 정답인 경로를 중간중간 확인하며 A와 B를 추가하는 경우의 수를 거꾸로 탐색하는 방법으로 문제를 해결하려 했다.2. 이후 while문을 통해 문제를 해결하고자 했다. 그러나 여기서 문제가 발생하는 지점은 A와 B 모두 선택할 수 있을 가능성이 있을 때이다.예를 들면 "BA"인 경우 1. 'B'에서 'A'를 추가해 "BA" 경우 2. 'A'에서 'B'를 추가해 "AB"가 되고, 이를 뒤집어.. 2025. 10. 28. [백준] 15684. 사다리 조작 - Java https://www.acmicpc.net/problem/15684 ⭐️ 중요 포인트- 추후 작성 예정import java.util.*;import java.io.*;public class P15684 { static BufferedReader br; static BufferedWriter bw; static StringTokenizer st; static int N; static int M; static int H; static int[][] graph; static int answer; static int cnt; static boolean[][] isVisited; static void init() throws IOException { .. 2025. 10. 27. 이전 1 2 3 4 ··· 34 다음
