@@ -67,6 +67,10 @@ ifeq ($(UNAME_S),Darwin)
67
67
endif
68
68
endif
69
69
70
+ ifdef LLAMA_RPC
71
+ BUILD_TARGETS += rpc-server
72
+ endif
73
+
70
74
default : $(BUILD_TARGETS )
71
75
72
76
test : $(TEST_TARGETS )
@@ -417,11 +421,10 @@ ifdef LLAMA_BLIS
417
421
endif # LLAMA_BLIS
418
422
419
423
ifdef LLAMA_RPC
420
- MK_CPPFLAGS += -DGGML_USE_RPC
421
- OBJS += ggml-rpc.o
424
+ MK_CPPFLAGS += -DGGML_USE_RPC
425
+ OBJS += ggml-rpc.o
422
426
endif # LLAMA_RPC
423
427
424
-
425
428
ifdef LLAMA_CUBLAS
426
429
# LLAMA_CUBLAS is deprecated and will be removed in the future
427
430
LLAMA_CUDA := 1
@@ -647,6 +650,10 @@ ggml-metal-embed.o: ggml-metal.metal ggml-common.h
647
650
endif
648
651
endif # LLAMA_METAL
649
652
653
+ OBJS += ggml-alloc.o ggml-backend.o ggml-quants.o unicode.o unicode-data.o
654
+ COMMON_H_DEPS = common/common.h common/sampling.h common/log.h llama.h
655
+ COMMON_DEPS = common.o sampling.o grammar-parser.o build-info.o json-schema-to-grammar.o
656
+
650
657
ifndef LLAMA_NO_LLAMAFILE
651
658
sgemm.o : sgemm.cpp sgemm.h ggml.h
652
659
$(CXX ) $(CXXFLAGS ) -c $< -o $@
@@ -655,8 +662,13 @@ endif
655
662
ifdef LLAMA_RPC
656
663
ggml-rpc.o : ggml-rpc.cpp ggml-rpc.h
657
664
$(CXX ) $(CXXFLAGS ) -c $< -o $@
658
- endif # LLAMA_RPC
659
665
666
+ rpc-server.o : examples/rpc/rpc-server.cpp ggml-rpc.h
667
+ $(CXX ) $(CXXFLAGS ) -c $< -o $@
668
+
669
+ rpc-server : rpc-server.o ggml.o llama.o $(COMMON_DEPS ) $(OBJS )
670
+ $(CXX ) $(CXXFLAGS ) $^ -o $@ $(LDFLAGS )
671
+ endif # LLAMA_RPC
660
672
661
673
GF_CC := $(CC )
662
674
include scripts/get-flags.mk
@@ -737,14 +749,9 @@ unicode.o: unicode.cpp unicode.h
737
749
unicode-data.o : unicode-data.cpp unicode-data.h
738
750
$(CXX ) $(CXXFLAGS ) -c $< -o $@
739
751
740
- OBJS += ggml-alloc.o ggml-backend.o ggml-quants.o unicode.o unicode-data.o
741
-
742
752
llama.o : llama.cpp unicode.h ggml.h ggml-alloc.h ggml-backend.h ggml-cuda.h ggml-metal.h llama.h
743
753
$(CXX ) $(CXXFLAGS ) -c $< -o $@
744
754
745
- COMMON_H_DEPS = common/common.h common/sampling.h common/log.h llama.h
746
- COMMON_DEPS = common.o sampling.o grammar-parser.o build-info.o json-schema-to-grammar.o
747
-
748
755
common.o : common/common.cpp $(COMMON_H_DEPS )
749
756
$(CXX ) $(CXXFLAGS ) -c $< -o $@
750
757
0 commit comments