Skip to content

Commit 464c75c

Browse files
slarenrgerganov
authored andcommitted
add rpc-server to Makefile
1 parent 805cd78 commit 464c75c

File tree

1 file changed

+16
-9
lines changed

1 file changed

+16
-9
lines changed

Makefile

+16-9
Original file line numberDiff line numberDiff line change
@@ -67,6 +67,10 @@ ifeq ($(UNAME_S),Darwin)
6767
endif
6868
endif
6969

70+
ifdef LLAMA_RPC
71+
BUILD_TARGETS += rpc-server
72+
endif
73+
7074
default: $(BUILD_TARGETS)
7175

7276
test: $(TEST_TARGETS)
@@ -417,11 +421,10 @@ ifdef LLAMA_BLIS
417421
endif # LLAMA_BLIS
418422

419423
ifdef LLAMA_RPC
420-
MK_CPPFLAGS += -DGGML_USE_RPC
421-
OBJS += ggml-rpc.o
424+
MK_CPPFLAGS += -DGGML_USE_RPC
425+
OBJS += ggml-rpc.o
422426
endif # LLAMA_RPC
423427

424-
425428
ifdef LLAMA_CUBLAS
426429
# LLAMA_CUBLAS is deprecated and will be removed in the future
427430
LLAMA_CUDA := 1
@@ -647,6 +650,10 @@ ggml-metal-embed.o: ggml-metal.metal ggml-common.h
647650
endif
648651
endif # LLAMA_METAL
649652

653+
OBJS += ggml-alloc.o ggml-backend.o ggml-quants.o unicode.o unicode-data.o
654+
COMMON_H_DEPS = common/common.h common/sampling.h common/log.h llama.h
655+
COMMON_DEPS = common.o sampling.o grammar-parser.o build-info.o json-schema-to-grammar.o
656+
650657
ifndef LLAMA_NO_LLAMAFILE
651658
sgemm.o: sgemm.cpp sgemm.h ggml.h
652659
$(CXX) $(CXXFLAGS) -c $< -o $@
@@ -655,8 +662,13 @@ endif
655662
ifdef LLAMA_RPC
656663
ggml-rpc.o: ggml-rpc.cpp ggml-rpc.h
657664
$(CXX) $(CXXFLAGS) -c $< -o $@
658-
endif # LLAMA_RPC
659665

666+
rpc-server.o: examples/rpc/rpc-server.cpp ggml-rpc.h
667+
$(CXX) $(CXXFLAGS) -c $< -o $@
668+
669+
rpc-server: rpc-server.o ggml.o llama.o $(COMMON_DEPS) $(OBJS)
670+
$(CXX) $(CXXFLAGS) $^ -o $@ $(LDFLAGS)
671+
endif # LLAMA_RPC
660672

661673
GF_CC := $(CC)
662674
include scripts/get-flags.mk
@@ -737,14 +749,9 @@ unicode.o: unicode.cpp unicode.h
737749
unicode-data.o: unicode-data.cpp unicode-data.h
738750
$(CXX) $(CXXFLAGS) -c $< -o $@
739751

740-
OBJS += ggml-alloc.o ggml-backend.o ggml-quants.o unicode.o unicode-data.o
741-
742752
llama.o: llama.cpp unicode.h ggml.h ggml-alloc.h ggml-backend.h ggml-cuda.h ggml-metal.h llama.h
743753
$(CXX) $(CXXFLAGS) -c $< -o $@
744754

745-
COMMON_H_DEPS = common/common.h common/sampling.h common/log.h llama.h
746-
COMMON_DEPS = common.o sampling.o grammar-parser.o build-info.o json-schema-to-grammar.o
747-
748755
common.o: common/common.cpp $(COMMON_H_DEPS)
749756
$(CXX) $(CXXFLAGS) -c $< -o $@
750757

0 commit comments

Comments
 (0)