Fabrice-TIERCELIN
commited on
Commit
•
c3029a6
1
Parent(s):
aebf4d2
Disable Half
Browse files- gradio_demo.py +1 -3
gradio_demo.py
CHANGED
@@ -29,14 +29,12 @@ parser.add_argument("--port", type=int, default='6688')
|
|
29 |
parser.add_argument("--no_llava", action='store_true', default=True)#False
|
30 |
parser.add_argument("--use_image_slider", action='store_true', default=False)
|
31 |
parser.add_argument("--log_history", action='store_true', default=False)
|
32 |
-
parser.add_argument("--loading_half_params", action='store_true', default=
|
33 |
parser.add_argument("--use_tile_vae", action='store_true', default=True)#False
|
34 |
parser.add_argument("--encoder_tile_size", type=int, default=512)
|
35 |
parser.add_argument("--decoder_tile_size", type=int, default=64)
|
36 |
parser.add_argument("--load_8bit_llava", action='store_true', default=False)
|
37 |
args = parser.parse_args()
|
38 |
-
server_ip = args.ip
|
39 |
-
server_port = args.port
|
40 |
use_llava = not args.no_llava
|
41 |
|
42 |
if torch.cuda.device_count() > 0:
|
|
|
29 |
parser.add_argument("--no_llava", action='store_true', default=True)#False
|
30 |
parser.add_argument("--use_image_slider", action='store_true', default=False)
|
31 |
parser.add_argument("--log_history", action='store_true', default=False)
|
32 |
+
parser.add_argument("--loading_half_params", action='store_true', default=False)#False
|
33 |
parser.add_argument("--use_tile_vae", action='store_true', default=True)#False
|
34 |
parser.add_argument("--encoder_tile_size", type=int, default=512)
|
35 |
parser.add_argument("--decoder_tile_size", type=int, default=64)
|
36 |
parser.add_argument("--load_8bit_llava", action='store_true', default=False)
|
37 |
args = parser.parse_args()
|
|
|
|
|
38 |
use_llava = not args.no_llava
|
39 |
|
40 |
if torch.cuda.device_count() > 0:
|