options

Loops Index

▼Columns Filter

Level Max Thread Time / Walltime 1x1 (%) Max Thread Time / Walltime 1x2 (%) Max Thread Time / Walltime 1x4 (%) Max Thread Time / Walltime 1x8 (%) Max Thread Time / Walltime 1x16 (%) Max Thread Time / Walltime 1x24 (%) Max Thread Time / Walltime 1x32 (%) Max Thread Time / Walltime 1x40 (%) Max Thread Time / Walltime 1x48 (%) Max Thread Time / Walltime 1x56 (%) Max Thread Time / Walltime 1x64 (%) Max Thread Time / Walltime 1x72 (%) Max Thread Time / Walltime 1x80 (%) Max Thread Time / Walltime 1x88 (%) Max Thread Time / Walltime 1x96 (%) Exclusive Coverage 1x1 (%) Exclusive Coverage 1x2 (%) Exclusive Coverage 1x4 (%) Exclusive Coverage 1x8 (%) Exclusive Coverage 1x16 (%) Exclusive Coverage 1x24 (%) Exclusive Coverage 1x32 (%) Exclusive Coverage 1x40 (%) Exclusive Coverage 1x48 (%) Exclusive Coverage 1x56 (%) Exclusive Coverage 1x64 (%) Exclusive Coverage 1x72 (%) Exclusive Coverage 1x80 (%) Exclusive Coverage 1x88 (%) Exclusive Coverage 1x96 (%) Inclusive Coverage 1x1 (%) Inclusive Coverage 1x2 (%) Inclusive Coverage 1x4 (%) Inclusive Coverage 1x8 (%) Inclusive Coverage 1x16 (%) Inclusive Coverage 1x24 (%) Inclusive Coverage 1x32 (%) Inclusive Coverage 1x40 (%) Inclusive Coverage 1x48 (%) Inclusive Coverage 1x56 (%) Inclusive Coverage 1x64 (%) Inclusive Coverage 1x72 (%) Inclusive Coverage 1x80 (%) Inclusive Coverage 1x88 (%) Inclusive Coverage 1x96 (%) Max Exclusive Time Over Threads 1x1 (s) Max Exclusive Time Over Threads 1x2 (s) Max Exclusive Time Over Threads 1x4 (s) Max Exclusive Time Over Threads 1x8 (s) Max Exclusive Time Over Threads 1x16 (s) Max Exclusive Time Over Threads 1x24 (s) Max Exclusive Time Over Threads 1x32 (s) Max Exclusive Time Over Threads 1x40 (s) Max Exclusive Time Over Threads 1x48 (s) Max Exclusive Time Over Threads 1x56 (s) Max Exclusive Time Over Threads 1x64 (s) Max Exclusive Time Over Threads 1x72 (s) Max Exclusive Time Over Threads 1x80 (s) Max Exclusive Time Over Threads 1x88 (s) Max Exclusive Time Over Threads 1x96 (s) Max Inclusive Time Over Threads 1x1 (s) Max Inclusive Time Over Threads 1x2 (s) Max Inclusive Time Over Threads 1x4 (s) Max Inclusive Time Over Threads 1x8 (s) Max Inclusive Time Over Threads 1x16 (s) Max Inclusive Time Over Threads 1x24 (s) Max Inclusive Time Over Threads 1x32 (s) Max Inclusive Time Over Threads 1x40 (s) Max Inclusive Time Over Threads 1x48 (s) Max Inclusive Time Over Threads 1x56 (s) Max Inclusive Time Over Threads 1x64 (s) Max Inclusive Time Over Threads 1x72 (s) Max Inclusive Time Over Threads 1x80 (s) Max Inclusive Time Over Threads 1x88 (s) Max Inclusive Time Over Threads 1x96 (s) Exclusive Time w.r.t. Wall Time 1x1 (s) Exclusive Time w.r.t. Wall Time 1x2 (s) Exclusive Time w.r.t. Wall Time 1x4 (s) Exclusive Time w.r.t. Wall Time 1x8 (s) Exclusive Time w.r.t. Wall Time 1x16 (s) Exclusive Time w.r.t. Wall Time 1x24 (s) Exclusive Time w.r.t. Wall Time 1x32 (s) Exclusive Time w.r.t. Wall Time 1x40 (s) Exclusive Time w.r.t. Wall Time 1x48 (s) Exclusive Time w.r.t. Wall Time 1x56 (s) Exclusive Time w.r.t. Wall Time 1x64 (s) Exclusive Time w.r.t. Wall Time 1x72 (s) Exclusive Time w.r.t. Wall Time 1x80 (s) Exclusive Time w.r.t. Wall Time 1x88 (s) Exclusive Time w.r.t. Wall Time 1x96 (s) Inclusive Time w.r.t. Wall Time 1x1 (s) Inclusive Time w.r.t. Wall Time 1x2 (s) Inclusive Time w.r.t. Wall Time 1x4 (s) Inclusive Time w.r.t. Wall Time 1x8 (s) Inclusive Time w.r.t. Wall Time 1x16 (s) Inclusive Time w.r.t. Wall Time 1x24 (s) Inclusive Time w.r.t. Wall Time 1x32 (s) Inclusive Time w.r.t. Wall Time 1x40 (s) Inclusive Time w.r.t. Wall Time 1x48 (s) Inclusive Time w.r.t. Wall Time 1x56 (s) Inclusive Time w.r.t. Wall Time 1x64 (s) Inclusive Time w.r.t. Wall Time 1x72 (s) Inclusive Time w.r.t. Wall Time 1x80 (s) Inclusive Time w.r.t. Wall Time 1x88 (s) Inclusive Time w.r.t. Wall Time 1x96 (s) Nb Threads 1x1 Nb Threads 1x2 Nb Threads 1x4 Nb Threads 1x8 Nb Threads 1x16 Nb Threads 1x24 Nb Threads 1x32 Nb Threads 1x40 Nb Threads 1x48 Nb Threads 1x56 Nb Threads 1x64 Nb Threads 1x72 Nb Threads 1x80 Nb Threads 1x88 Nb Threads 1x96 Vectorization Ratio (%) Vector Length Use (%) Speedup If No Scalar Integer Speedup If FP Vectorized Speedup If Fully Vectorized Speedup If Perfect Load Balancing 1x1 Speedup If Perfect Load Balancing 1x2 Speedup If Perfect Load Balancing 1x4 Speedup If Perfect Load Balancing 1x8 Speedup If Perfect Load Balancing 1x16 Speedup If Perfect Load Balancing 1x24 Speedup If Perfect Load Balancing 1x32 Speedup If Perfect Load Balancing 1x40 Speedup If Perfect Load Balancing 1x48 Speedup If Perfect Load Balancing 1x56 Speedup If Perfect Load Balancing 1x64 Speedup If Perfect Load Balancing 1x72 Speedup If Perfect Load Balancing 1x80 Speedup If Perfect Load Balancing 1x88 Speedup If Perfect Load Balancing 1x96 Stride 0 Stride 1 Stride n Stride Unknown Stride Indirect Array Access Efficiency (1x1) Efficiency (1x1) Potential Speed-Up (%) (1x2) Efficiency (1x2) Potential Speed-Up (%) (1x4) Efficiency (1x4) Potential Speed-Up (%) (1x8) Efficiency (1x8) Potential Speed-Up (%) (1x16) Efficiency (1x16) Potential Speed-Up (%) (1x24) Efficiency (1x24) Potential Speed-Up (%) (1x32) Efficiency (1x32) Potential Speed-Up (%) (1x40) Efficiency (1x40) Potential Speed-Up (%) (1x48) Efficiency (1x48) Potential Speed-Up (%) (1x56) Efficiency (1x56) Potential Speed-Up (%) (1x64) Efficiency (1x64) Potential Speed-Up (%) (1x72) Efficiency (1x72) Potential Speed-Up (%) (1x80) Efficiency (1x80) Potential Speed-Up (%) (1x88) Efficiency (1x88) Potential Speed-Up (%) (1x96) Efficiency (1x96) Potential Speed-Up (%) Level Max Thread Time / Walltime Exclusive Coverage Inclusive Coverage Max Exclusive Time Over Threads Max Inclusive Time Over Threads Exclusive Time w.r.t. Wall Time Inclusive Time w.r.t. Wall Time Nb Threads Vectorization Ratio Vector Length Use Speedup If No Scalar Integer Speedup If FP Vectorized Speedup If Fully Vectorized Speedup If Perfect Load Balancing Stride 0 Stride 1 Stride n Stride Unknown Stride Indirect Array Access Efficiency Efficiency Potential Speed-Up
Run 1 Run 2 Run 3 Run 4 Run 5 Run 6 Run 7 Run 8 Run 9 Run 10 Run 11 Run 12 Run 13 Run 14 Run 15
Loop idSource LocationSource FunctionLevelMax Thread Time / Walltime 1x1 (%)Max Thread Time / Walltime 1x2 (%)Max Thread Time / Walltime 1x4 (%)Max Thread Time / Walltime 1x8 (%)Max Thread Time / Walltime 1x16 (%)Max Thread Time / Walltime 1x24 (%)Max Thread Time / Walltime 1x32 (%)Max Thread Time / Walltime 1x40 (%)Max Thread Time / Walltime 1x48 (%)Max Thread Time / Walltime 1x56 (%)Max Thread Time / Walltime 1x64 (%)Max Thread Time / Walltime 1x72 (%)Max Thread Time / Walltime 1x80 (%)Max Thread Time / Walltime 1x88 (%)Max Thread Time / Walltime 1x96 (%)Exclusive Coverage 1x1 (%)Exclusive Coverage 1x2 (%)Exclusive Coverage 1x4 (%)Exclusive Coverage 1x8 (%)Exclusive Coverage 1x16 (%)Exclusive Coverage 1x24 (%)Exclusive Coverage 1x32 (%)Exclusive Coverage 1x40 (%)Exclusive Coverage 1x48 (%)Exclusive Coverage 1x56 (%)Exclusive Coverage 1x64 (%)Exclusive Coverage 1x72 (%)Exclusive Coverage 1x80 (%)Exclusive Coverage 1x88 (%)Exclusive Coverage 1x96 (%)Inclusive Coverage 1x1 (%)Inclusive Coverage 1x2 (%)Inclusive Coverage 1x4 (%)Inclusive Coverage 1x8 (%)Inclusive Coverage 1x16 (%)Inclusive Coverage 1x24 (%)Inclusive Coverage 1x32 (%)Inclusive Coverage 1x40 (%)Inclusive Coverage 1x48 (%)Inclusive Coverage 1x56 (%)Inclusive Coverage 1x64 (%)Inclusive Coverage 1x72 (%)Inclusive Coverage 1x80 (%)Inclusive Coverage 1x88 (%)Inclusive Coverage 1x96 (%)Max Exclusive Time Over Threads 1x1 (s)Max Exclusive Time Over Threads 1x2 (s)Max Exclusive Time Over Threads 1x4 (s)Max Exclusive Time Over Threads 1x8 (s)Max Exclusive Time Over Threads 1x16 (s)Max Exclusive Time Over Threads 1x24 (s)Max Exclusive Time Over Threads 1x32 (s)Max Exclusive Time Over Threads 1x40 (s)Max Exclusive Time Over Threads 1x48 (s)Max Exclusive Time Over Threads 1x56 (s)Max Exclusive Time Over Threads 1x64 (s)Max Exclusive Time Over Threads 1x72 (s)Max Exclusive Time Over Threads 1x80 (s)Max Exclusive Time Over Threads 1x88 (s)Max Exclusive Time Over Threads 1x96 (s)Max Inclusive Time Over Threads 1x1 (s)Max Inclusive Time Over Threads 1x2 (s)Max Inclusive Time Over Threads 1x4 (s)Max Inclusive Time Over Threads 1x8 (s)Max Inclusive Time Over Threads 1x16 (s)Max Inclusive Time Over Threads 1x24 (s)Max Inclusive Time Over Threads 1x32 (s)Max Inclusive Time Over Threads 1x40 (s)Max Inclusive Time Over Threads 1x48 (s)Max Inclusive Time Over Threads 1x56 (s)Max Inclusive Time Over Threads 1x64 (s)Max Inclusive Time Over Threads 1x72 (s)Max Inclusive Time Over Threads 1x80 (s)Max Inclusive Time Over Threads 1x88 (s)Max Inclusive Time Over Threads 1x96 (s)Exclusive Time w.r.t. Wall Time 1x1 (s)Exclusive Time w.r.t. Wall Time 1x2 (s)Exclusive Time w.r.t. Wall Time 1x4 (s)Exclusive Time w.r.t. Wall Time 1x8 (s)Exclusive Time w.r.t. Wall Time 1x16 (s)Exclusive Time w.r.t. Wall Time 1x24 (s)Exclusive Time w.r.t. Wall Time 1x32 (s)Exclusive Time w.r.t. Wall Time 1x40 (s)Exclusive Time w.r.t. Wall Time 1x48 (s)Exclusive Time w.r.t. Wall Time 1x56 (s)Exclusive Time w.r.t. Wall Time 1x64 (s)Exclusive Time w.r.t. Wall Time 1x72 (s)Exclusive Time w.r.t. Wall Time 1x80 (s)Exclusive Time w.r.t. Wall Time 1x88 (s)Exclusive Time w.r.t. Wall Time 1x96 (s)Inclusive Time w.r.t. Wall Time 1x1 (s)Inclusive Time w.r.t. Wall Time 1x2 (s)Inclusive Time w.r.t. Wall Time 1x4 (s)Inclusive Time w.r.t. Wall Time 1x8 (s)Inclusive Time w.r.t. Wall Time 1x16 (s)Inclusive Time w.r.t. Wall Time 1x24 (s)Inclusive Time w.r.t. Wall Time 1x32 (s)Inclusive Time w.r.t. Wall Time 1x40 (s)Inclusive Time w.r.t. Wall Time 1x48 (s)Inclusive Time w.r.t. Wall Time 1x56 (s)Inclusive Time w.r.t. Wall Time 1x64 (s)Inclusive Time w.r.t. Wall Time 1x72 (s)Inclusive Time w.r.t. Wall Time 1x80 (s)Inclusive Time w.r.t. Wall Time 1x88 (s)Inclusive Time w.r.t. Wall Time 1x96 (s)Nb Threads 1x1Nb Threads 1x2Nb Threads 1x4Nb Threads 1x8Nb Threads 1x16Nb Threads 1x24Nb Threads 1x32Nb Threads 1x40Nb Threads 1x48Nb Threads 1x56Nb Threads 1x64Nb Threads 1x72Nb Threads 1x80Nb Threads 1x88Nb Threads 1x96Vectorization Ratio (%)Vector Length Use (%)Speedup If No Scalar IntegerSpeedup If FP VectorizedSpeedup If Fully VectorizedSpeedup If Perfect Load Balancing 1x1Speedup If Perfect Load Balancing 1x2Speedup If Perfect Load Balancing 1x4Speedup If Perfect Load Balancing 1x8Speedup If Perfect Load Balancing 1x16Speedup If Perfect Load Balancing 1x24Speedup If Perfect Load Balancing 1x32Speedup If Perfect Load Balancing 1x40Speedup If Perfect Load Balancing 1x48Speedup If Perfect Load Balancing 1x56Speedup If Perfect Load Balancing 1x64Speedup If Perfect Load Balancing 1x72Speedup If Perfect Load Balancing 1x80Speedup If Perfect Load Balancing 1x88Speedup If Perfect Load Balancing 1x96Stride 0Stride 1Stride nStride UnknownStride IndirectArray Access Efficiency(1x1) Efficiency(1x1) Potential Speed-Up (%)(1x2) Efficiency(1x2) Potential Speed-Up (%)(1x4) Efficiency(1x4) Potential Speed-Up (%)(1x8) Efficiency(1x8) Potential Speed-Up (%)(1x16) Efficiency(1x16) Potential Speed-Up (%)(1x24) Efficiency(1x24) Potential Speed-Up (%)(1x32) Efficiency(1x32) Potential Speed-Up (%)(1x40) Efficiency(1x40) Potential Speed-Up (%)(1x48) Efficiency(1x48) Potential Speed-Up (%)(1x56) Efficiency(1x56) Potential Speed-Up (%)(1x64) Efficiency(1x64) Potential Speed-Up (%)(1x72) Efficiency(1x72) Potential Speed-Up (%)(1x80) Efficiency(1x80) Potential Speed-Up (%)(1x88) Efficiency(1x88) Potential Speed-Up (%)(1x96) Efficiency(1x96) Potential Speed-Up (%)
379libggml-cpu.so - quants.c:322-329 [...]ggml_vec_dot_q8_0_q8_0Single67.8968.4269.1469.2268.9368.7968.8168.3267.9269.2067.0166.9868.5168.1568.7669.3069.8369.5770.1969.3667.7969.9570.9070.3469.6068.0668.2368.5669.8769.2769.3069.8369.5770.1969.3667.7969.9570.9070.3469.6068.0668.2368.5669.8769.278.448.468.508.538.508.568.468.418.358.588.358.358.518.418.518.448.468.508.538.508.568.468.418.358.588.358.358.518.418.518.178.158.078.148.007.968.078.218.138.087.968.018.008.148.088.178.158.078.148.007.968.078.218.138.087.968.018.008.148.0896969696969696969696969696969638.4653.851.062.131.481.071.061.081.071.081.111.071.041.051.081.071.071.091.061.08000000.0010101.010101.0201.0301.01010.31101.0101.0301.0201.020101.010
72libggml-cpu.so - ggml-cpu.c:533-2897 [...]ggml_graph_compute_threadInnermost1.091.701.181.181.341.331.711.301.471.611.201.641.251.781.130.500.610.520.520.470.460.590.610.530.680.560.630.510.570.480.500.610.520.520.470.460.590.610.530.680.560.630.510.570.480.140.210.140.140.160.170.210.160.180.200.150.200.160.220.140.140.210.140.140.160.170.210.160.180.200.150.200.160.220.140.060.070.060.060.050.050.070.070.060.080.070.070.060.070.060.060.070.060.060.050.050.070.070.060.080.070.070.060.070.06808582847984828485808582888082050111.081.962.672.092.162.572.742.682.022.642.162.092.422.472.822.21NANANANANA0.00100.830.10.970.010.990.011.101.0900.870.080.840.10.960.020.750.170.910.050.80.13100.890.061.070
908libggml-cpu.so - vec.cpp:311-316ggml_vec_dot_f16Single1.251.211.551.181.501.331.141.461.181.131.491.361.571.211.130.340.280.310.300.320.300.280.320.310.300.310.330.350.300.310.340.280.310.300.320.300.280.320.310.300.310.330.350.300.310.160.150.190.150.190.160.140.180.140.140.190.170.200.150.140.160.150.190.150.190.160.140.180.140.140.190.170.200.150.140.040.030.040.030.040.030.030.040.040.030.040.040.040.040.040.040.030.040.030.040.030.030.040.040.030.040.040.040.040.043232323232323232323232323232321001001111.331.581.821.421.731.631.491.641.41.381.771.521.641.461.3420000100.00101.2401.1201.1501.101.1501.2501.0701.1301.1601.1201.0500.9901.1401.120
73libggml-cpu.so - ggml-cpu.c:533-2897 [...]ggml_graph_compute_threadOutermost0.760.730.850.610.771.130.890.970.730.811.200.840.810.890.690.310.310.330.260.340.430.340.320.320.320.450.370.370.340.290.810.920.850.780.800.890.930.940.850.991.011.000.880.920.770.090.090.100.080.090.140.110.120.090.100.150.110.100.110.090.190.280.220.190.230.300.250.260.250.280.270.260.230.300.220.040.040.040.030.040.050.040.040.040.040.050.040.040.040.030.100.110.100.090.090.110.110.110.100.120.120.120.100.110.09919494919391959193919392919593041.071142.582.482.762.422.422.682.853.082.422.622.812.392.242.792.48NANANANANA0.00100.9900.940.021.200.930.020.710.130.920.030.960.010.970.010.980.010.680.150.830.060.830.060.90.031.060
56libggml-cpu.so - ggml-cpu.c:1125-1395 [...]ggml_compute_forward_mul_matInBetween0.520.440.450.490.570.520.490.570.530.480.480.520.480.530.570.230.240.230.260.230.270.220.270.230.260.240.230.210.240.240.360.370.370.390.370.380.350.400.360.380.360.350.350.370.380.070.050.050.060.070.060.060.070.060.060.060.060.060.060.070.070.090.080.080.100.090.080.080.090.080.080.090.070.090.080.030.030.030.030.030.030.030.030.030.030.030.030.030.030.030.040.040.040.050.040.040.040.050.040.040.040.040.040.040.04969695959393969696959595969695050.29111.272.462.022.071.992.662.062.382.292.491.982.142.462.452.422.5NANANANANA0.00100.970.011.0100.90.031.0500.870.041.0600.880.031.0200.890.030.960.011.0201.0900.9900.960.01
1896libggml-cpu.so - ops.cpp:8793-8881 [...]ggml_compute_forward_flash_attn_extInBetween0.760.730.690.770.730.720.810.770.850.970.880.840.730.730.810.170.180.170.190.160.160.180.160.180.180.160.180.180.200.180.330.310.330.320.300.330.320.300.320.320.300.320.340.330.310.090.090.090.100.090.090.100.090.110.120.110.110.090.090.100.160.160.170.160.150.160.170.140.170.170.190.170.190.150.150.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.040.040.040.040.030.040.040.030.040.040.040.040.040.040.043332333232323332323232323233328.4238.162.262.51.181.651.481.511.491.641.61.661.731.681.932.051.691.461.391.67NANANANANA0.00100.9801.0200.940.011.0901.0600.960.011.0900.960.010.960.011.1100.960.010.970.010.890.020.990
1908libggml-cpu.so - vec.h:491-497ggml_compute_forward_flash_attn_extInnermost0.800.650.770.770.690.720.610.650.530.650.720.600.970.610.690.160.130.160.130.140.160.130.130.130.140.150.140.160.140.140.160.130.160.130.140.160.130.130.130.140.150.140.160.140.140.100.080.100.090.090.090.070.080.070.080.090.070.120.080.080.100.080.100.090.090.090.070.080.070.080.090.070.120.080.080.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.023232323232323232323232323232321001001111.851.781.762.11.851.61.651.751.441.651.791.522.221.611.8220000100.00101.2101.0101.201.1900.970.011.201.201.2101.1301.0801.101.0101.1601.160
53libggml-cpu.so - ggml-cpu.c:1183-1194 [...]ggml_compute_forward_mul_matInnermost0.240.280.280.240.410.360.200.240.240.240.240.280.280.240.240.100.100.100.100.110.090.090.090.090.080.100.090.090.090.100.100.100.100.100.110.090.090.090.090.080.100.090.090.090.100.030.040.040.030.050.050.030.030.030.030.030.040.040.030.030.030.040.040.030.050.050.030.030.030.030.030.040.040.030.030.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.01888788848982868486828977878283052.17111.72.372.852.712.393.743.772.132.532.572.692.52.712.942.412.3310000100.00101.0500.9901.0700.950.011.1401.1201.1301.1201.2301.0501.1301.0801.101.050
419libggml-base.so - ggml-impl.h:355-404 [...]quantize_row_q8_0_refInnermost0.240.280.280.240.280.320.240.240.200.280.280.280.200.200.360.080.100.080.090.080.080.090.080.090.080.080.080.080.080.090.080.100.080.090.080.080.090.080.090.080.080.080.080.080.090.030.040.040.030.040.040.030.030.030.040.040.040.030.030.050.030.040.040.030.040.040.030.030.030.040.040.040.030.030.050.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.0171847884807883848377777782828123.17422.6711.832.542.773.032.453.293.632.522.782.063.172.993.252.342.383.84NANANANANA0.00100.80.020.940.010.820.02100.9800.860.010.9400.840.01100.9401.0200.9700.9800.890.01
1596libggml-cpu.so - ops.cpp:6220-6245 [...]ggml_compute_forward_rope_f32(ggml_compute_params const*, ggml_tensor*, bool)Innermost0.240.160.200.240.240.160.240.200.200.160.240.240.200.200.200.070.070.060.070.060.060.070.070.060.070.070.060.060.070.060.070.070.060.070.060.060.070.070.060.070.070.060.060.070.060.030.020.020.030.030.020.030.030.030.020.030.030.020.030.030.030.020.020.030.030.020.030.030.030.020.030.030.020.030.030.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.0175777178746781747879737571727027.2736.3611.883.0532.152.712.893.192.213.142.522.891.983.023.172.522.472.692001083.33101.0501.1500.9301.0901.2400.9801.0301.1200.9501.0401.0601.0701.0301.160
54libggml-cpu.so - ggml-cpu.c:1125-1395 [...]ggml_compute_forward_mul_matInnermost0.160.160.160.080.160.120.160.160.160.120.120.120.240.120.120.030.030.030.030.040.020.040.040.040.030.020.030.040.040.040.030.030.030.030.040.020.040.040.040.030.020.030.040.040.040.020.020.020.010.020.020.020.020.020.020.010.020.030.010.020.020.020.020.010.020.020.020.020.020.020.010.020.030.010.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.004346515355295753505133525659610551112.773.022.721.662.862.292.752.722.562.132.252.483.822.132.06NANANANANA0.00101.0200.830.010.9800.820.011.6400.760.010.80.010.80.010.8701.4200.9900.710.010.750.010.70.01
916libggml-cpu.so - vec.h:1045-1072 [...]ggml_vec_swiglu_f32Innermost2.091.942.201.792.431.931.992.271.711.811.731.642.261.861.980.020.020.020.020.030.020.020.030.020.020.020.020.030.020.020.020.020.020.020.030.020.020.030.020.020.020.020.030.020.020.260.240.270.220.300.240.240.280.210.230.220.210.280.230.250.260.240.270.220.300.240.240.280.210.230.220.210.280.230.250.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0022121122222111283.3391.671.04111.961.9611.96111.961.961.951.961.951111.96NANANANANA0.00101.0900.9901.1900.8901.1101.0700.9401.2401.1701.2101.300.9501.1601.060
0libggml-cpu.so - ggml-cpu.c:3228-3229 [...]ggml_cpu_fp32_to_fp16Single0.200.280.080.080.160.280.330.160.120.320.120.160.160.040.120.010.010.010.010.010.010.010.010.010.010.010.010.010.000.010.010.010.010.010.010.010.010.010.010.010.010.010.010.000.010.020.040.010.010.020.040.040.020.010.040.020.020.020.000.010.020.040.010.010.020.040.040.020.010.040.020.020.020.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0017121014181610121414121216101297.2298.611113.44.421.821.872.884.674.712.672.14.672.123.23.212.420000100.00101.3202.2901.6801.0101.0401.4901.4101.2601.0501.4801.6701.2602.5101.670
58libggml-cpu.so - ggml-cpu.c:1289-1297ggml_compute_forward_mul_matInnermost0.080.080.080.080.120.080.080.080.080.080.080.080.120.040.040.010.010.010.010.010.010.010.010.010.010.010.010.010.000.010.010.010.010.010.010.010.010.010.010.010.010.010.010.000.010.010.010.010.010.020.010.010.010.010.010.010.010.010.010.010.010.010.010.010.020.010.010.010.010.010.010.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00211616211514151617131917148140501121.681.781.681.752.371.651.671.781.791.861.651.792.62111001075.00101.401.3201.0501.3301.4701.401.4101.3301.8101.0901.3201.5703.1401.790
437libggml-cpu.so - binary-ops.cpp:10-32 [...]ggml_compute_forward_add_non_quantizedInnermost0.680.530.890.650.690.720.610.370.900.770.640.880.730.770.810.010.010.010.010.010.010.010.000.010.010.010.010.010.010.010.010.010.010.010.010.010.010.000.010.010.010.010.010.010.010.090.060.110.080.090.090.070.050.110.090.080.110.090.090.100.090.060.110.080.090.090.070.050.000.090.080.010.090.090.100.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.002131111111112120301141.8912.751111111111.8911.90003050.00101.3900.7501.1301.070101.2102.0300.8200.9601.1300.8200.9500.9500.860
1591libggml-cpu.so - ops.cpp:6446-6456 [...]ggml_compute_forward_rope_f32(ggml_compute_params const*, ggml_tensor*, bool)Innermost0.120.120.120.080.080.080.080.120.080.120.080.120.120.080.160.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.020.010.010.010.010.010.020.010.010.010.010.010.010.020.010.020.010.010.010.010.010.020.010.010.010.010.010.010.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0013161610181212141114161513111466.6747.221.071.582.312.292.42.291.541.711.331.62.11.692.211.522.252.171.572.550102066.67100.8500.8101.3200.8200.9501.1500.8601.3200.9100.8100.8500.9501.2200.780
1588libggml-cpu.so - ops.cpp:6210-6484 [...]ggml_compute_forward_rope_f32(ggml_compute_params const*, ggml_tensor*, bool)Outermost0.080.120.080.080.080.040.120.080.080.080.040.080.080.080.120.010.010.010.010.010.000.010.010.010.010.010.010.010.010.010.090.090.080.090.080.070.090.090.080.090.080.080.080.080.080.010.020.010.010.010.010.020.010.010.010.010.010.010.010.020.030.030.030.030.030.030.040.030.020.040.020.030.030.030.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.010.010.010.010.010.010.010.010.010.010.010.011212121110915181391112161410043.5112.741.521.711.691.8211.871.641.731.6411.851.781.872NANANANANA0.00100.8901.1501.2401.4701.7800.6700.7401.0801.4701.4601.2400.8901.0701.070
541libggml-cpu.so - binary-ops.cpp:18-32 [...]ggml_compute_forward_mulInnermost0.600.811.020.690.650.680.690.650.850.560.400.880.811.090.970.010.010.010.010.010.010.010.010.010.010.000.010.010.010.010.010.010.010.010.010.010.010.010.010.010.000.010.010.010.010.070.100.130.090.080.090.090.080.110.070.050.110.100.140.120.070.100.130.090.080.090.090.080.110.070.050.110.100.140.120.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00111211121111113028.951141111.891111.881111112.770003050.00100.7500.600.8400.9500.8800.8900.8900.7201.0801.5100.6800.7500.560.010.580.01
1914libggml-cpu.so - vec.h:677-682ggml_compute_forward_flash_attn_extInnermost0.080.080.080.040.040.080.160.080.080.040.080.080.080.120.040.010.000.000.000.000.000.000.010.000.000.000.000.000.000.000.010.000.000.000.000.000.000.010.000.000.000.000.000.000.000.010.010.010.010.010.010.020.010.010.010.010.010.010.010.010.010.010.010.010.010.010.020.010.010.010.010.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001173966410710868751001001111.691.561.5111.521.671.7511.781.711.62.33110000100.00101.4503.2701.4602.1901.6301.6401.101.6401.3201.4501.8701.3101.4502.610
1587libggml-cpu.so - ops.cpp:6210-6462 [...]ggml_compute_forward_rope_f32(ggml_compute_params const*, ggml_tensor*, bool)InBetween0.120.040.040.040.040.040.040.080.040.080.080.040.040.040.040.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.070.070.060.080.070.060.070.070.060.080.070.070.070.070.060.010.010.010.010.000.010.000.010.010.010.010.010.010.000.010.020.030.020.020.020.020.020.030.020.020.030.020.020.030.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.010.010.010.010.010.010.010.010.010.010.010.018891091251048687366.5852.35.921.71.352.41111111.8211.781.711111NANANANANA0.00101.2601.1201.0101.1200.8402.0200.9202.5201.1201.4401.2601.4403.3501.670
407libggml-cpu.so - traits.cpp:13-17 [...]ggml_cpu_extra_compute_forwardSingle0.040.040.040.040.080.040.040.040.040.040.040.040.080.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.010.000.000.010.010.010.000.000.010.010.000.000.010.010.000.010.000.000.010.010.010.000.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0096263556535387405011211111.511111111.78110102074.38101.5104.5301.5102.2801.8101.8201.5201.8103.0401.8103.0101.0101.2902.260
2502libllama.so - stl_heap.h:140-263 [...]llama_token_data_array_partial_sort_inplace(llama_token_data_array*, int)Outermost0.360.080.240.410.160.080.160.320.120.200.240.400.280.280.240.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.040.010.030.050.020.010.020.040.020.030.030.050.040.040.030.040.010.030.050.020.010.020.050.020.030.030.060.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00111111111111111037.54.6712.87111111111111111NANANANANA0.00104.5201.5100.9102.2804.5102.2801.1403.0201.8201.5100.901.2901.2901.510
1893libggml-cpu.so - vec.h:375-751 [...]ggml_compute_forward_flash_attn_extInBetween0.040.080.040.080.040.040.080.040.040.040.000.040.040.040.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.340.320.340.330.300.330.320.300.320.330.000.330.350.340.320.010.010.010.010.010.000.010.000.010.000.000.010.010.010.010.140.130.170.170.120.170.170.160.120.130.000.150.170.140.150.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.040.040.040.030.040.040.040.040.040.000.040.040.040.04738463432305474047.62.011.341.3411.211.33111.3311101111.6NANANANANA0.00101.4100.8801.1801.1802.3401.1802.3603.5302.3601.4101.7601.0101.410
417libggml-base.so - ggml-quants.c:203-219 [...]quantize_row_q8_0_refOutermost0.040.040.040.040.080.040.040.040.040.080.080.080.040.040.080.000.000.000.000.000.000.000.000.010.000.000.010.000.010.010.100.130.110.120.110.110.120.110.120.110.110.100.110.110.120.000.010.000.000.010.010.010.000.000.010.010.010.010.010.010.030.030.030.020.030.020.040.020.030.020.030.050.030.030.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.020.010.010.010.010.010.010.010.010.010.010.010.010.0171066841051189126131202511411111.7811111.781.81.85111.85NANANANANA0.00100.701.1701.1800.7901.7600.7101.4200.6400.7900.700.5401.1700.5400.540
1497libggml-cpu.so - ops.cpp:5352-5517 [...]ggml_compute_forward_get_rowsOutermost0.040.040.000.040.040.040.040.040.040.040.040.000.040.080.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.010.000.000.000.010.000.000.010.000.000.010.010.000.000.000.010.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00540121431220122057.511111011111111011.331NANANANANA0.00101.2605.0402.5305.0101.2601.6905.0402.5302.5205.0301.6802.510
59libggml-cpu.so - ggml-cpu.c:1289-1297ggml_compute_forward_mul_matInBetween0.040.080.080.040.040.040.040.080.040.040.040.040.040.040.120.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.010.000.010.010.010.010.010.010.010.010.000.000.010.020.010.010.010.010.010.010.010.010.010.020.010.020.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00553346535454342053.57111.5411.671.511111.51111111.51001075.00100.8401.2601.6801.2700.8401.0101.2701.0101.2601.0101.2601.6801.2601.260
1353libggml-cpu.so - ops.cpp:4325-4326ggml_compute_forward_rms_normInnermost0.200.200.120.120.200.360.240.040.330.280.240.360.160.120.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.020.020.010.030.050.030.010.040.040.030.050.020.010.000.020.020.020.010.030.050.030.010.040.040.030.050.020.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0011111112111111091.6787.5111.1111111111111111001000100.00101.0101.6801.6801.0100.5600.8402.5300.6300.7200.8400.5601.2601.680
1354libggml-cpu.so - vec.h:677-682ggml_compute_forward_rms_normInnermost0.160.200.080.160.080.080.080.120.120.040.080.200.080.200.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.020.010.020.010.010.010.020.020.000.010.030.010.020.010.020.020.010.020.010.010.010.020.020.000.010.030.010.020.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00111112111111121100100111111111.3311111111.67110000100.00100.802.0101.0102.0201.3402.0201.3501.3404.0502.0100.802.0100.6702.010
431libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.040.000.040.000.000.040.040.040.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.000.010.000.010.000.000.010.000.000.000.010.010.000.010.010.010.010.000.000.000.000.000.010.000.000.000.000.010.010.010.010.010.000.010.000.000.010.010.000.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00452130300323042025114111110100111011NANANANANA0.00100.802.0104.0301.3501.3501.3502.0101.3401.0102.010
443libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.000.040.000.040.000.040.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.020.020.020.000.020.000.020.000.020.020.010.020.020.020.010.000.000.010.000.000.000.000.000.000.000.010.000.010.010.010.010.000.010.000.010.000.010.000.010.020.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00411401050634133025114111101010111111NANANANANA0.00104.0204.0201.0104.0100.8100.6701.340104.0301.3401.340
3346exec - sampling.cpp:125-126common_sampler::set_logits(llama_context*, int)Single0.160.200.160.200.120.120.160.120.160.120.240.200.280.080.200.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.020.020.030.010.020.020.020.020.020.030.030.040.010.030.020.020.020.030.010.020.020.020.020.020.030.030.040.010.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001111111111111117587.5111.11111111111111110101075.00100.801.0100.8101.3501.3401.0101.3501.0101.3500.6700.800.5802.0100.80
448libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.040.040.040.040.040.040.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.020.020.020.020.020.020.030.020.020.020.020.020.020.020.010.010.000.000.010.010.000.010.000.010.010.000.010.000.010.010.010.010.010.010.010.010.010.010.020.010.010.010.020.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00442132342433632025114111111111111111NANANANANA0.00101.0102.0104.0301.3502.0101.3501.0102.0201.0101.3401.3400.6701.3402.010
1355libggml-cpu.so - ops.cpp:4319-4338 [...]ggml_compute_forward_rms_normInBetween0.120.040.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.060.050.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001100000000000108.3551.921.821.241.481100000000000100002.33050.00103.0203.020
427libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.080.040.040.040.040.040.040.040.040.000.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.010.000.010.000.000.000.000.000.010.010.010.010.010.000.010.010.000.010.000.000.010.010.010.010.010.010.010.010.000.010.010.000.010.000.000.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0032315344160135302511411.331111111101111NANANANANA0.00101.0101.0103.0300.610100.7600.7603.0200.5103.0101.0100.6010
437libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.080.040.040.040.040.040.040.040.040.000.040.040.040.040.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.010.010.010.010.000.010.000.010.010.010.010.010.010.010.010.010.010.010.010.010.000.000.010.010.010.010.010.090.060.110.080.090.090.070.050.000.000.080.010.090.090.100.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.002535675630622530251141.3311111111011111.5NANANANANA0.00100.601.0100.6100.5100.4300.6100.5101.0100.501.5101.5100.600.750
447libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.080.040.040.040.040.040.040.040.040.040.040.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.020.020.020.020.020.020.020.020.020.020.020.020.020.020.020.000.000.000.010.010.000.000.000.000.010.000.010.000.000.000.010.010.010.010.020.010.010.020.010.010.010.010.010.020.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00361710551222722202511411111.821111111111NANANANANA0.00100.503.0200.4300.2800.600.6103.0401.5101.5201.5100.4301.5101.5101.510
423libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.040.000.040.040.000.040.000.000.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.000.000.000.010.000.010.000.000.000.010.000.000.010.010.010.000.000.010.010.000.010.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00215510240300332025114111110110100111NANANANANA0.00102.0100.400.402.0201.0100.5100.6700.6700.67010
430libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.000.000.040.040.040.000.000.040.000.040.000.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.010.000.000.000.000.000.000.010.010.010.000.000.000.010.010.000.000.000.000.000.000.000.000.000.010.010.000.000.010.010.000.000.000.000.000.000.000.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00200112001010121025114100111001010111NANANANANA0.00102.0202.020102.0202.0102.0101.0102.010
433libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.000.040.040.040.000.040.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.010.000.010.010.010.000.010.000.000.010.010.010.000.000.000.000.000.000.010.000.000.000.010.000.010.000.000.010.010.010.010.000.010.010.010.000.010.010.000.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00213401230111351025114111101110111111NANANANANA0.00102.0100.6700.502.0101.0100.6802.0202.0102.0100.6700.402.010
446libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.080.040.080.040.000.000.040.040.040.040.040.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.020.020.020.020.000.000.020.020.020.020.010.020.000.020.000.010.010.010.010.000.000.000.010.000.000.000.000.000.000.010.010.010.020.010.000.000.010.010.010.010.010.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0022341001131240102511411.3311.610011111101NANANANANA0.00100.6700.6700.402.0202.0302.0200.6702.010100.502.010
299libggml-cpu.so - repack.cpp:1968-1981 [...]ggml_backend_cpu_repack_buffer_type()Single0.040.000.040.000.040.000.040.040.040.000.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.010.000.000.010.000.000.000.010.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00201010221001010062.5111101010111001010NANANANANA0.00102.0102.0201.0101.0102.0202.0102.010
1387exec - regex_executor.tcc:180-513 [...]std::__detail::_Executor<__gnu_cxx::__normal_iterator<char const*, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::allocator<std::__cxx11::sub_match<__gnu_cxx::__normal_iterator<ch...Single0.080.120.120.040.040.120.040.200.040.040.080.160.040.080.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.020.000.000.020.000.030.010.000.010.020.010.010.010.010.010.020.000.000.020.000.030.010.000.010.020.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00111111111111111035.31117.38111111111111111NANANANANA0.00100.6700.6702.0202.0200.6702.0200.4102.0202.0201.0100.502.0101.01010
441libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.040.040.040.040.040.040.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.020.020.010.010.020.020.020.010.010.010.010.010.020.020.000.000.010.000.000.000.000.000.000.000.000.000.010.000.000.000.010.020.010.010.010.020.010.000.010.010.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00234226642314212025114111111111111111NANANANANA0.00100.6700.501.0101.0100.3300.3400.5101.0100.6702.0100.501.0102.01010
95libggml-cpu.so - ggml-cpu.cpp:39-63 [...]ggml_backend_cpu_get_extra_buffer_types()Single0.040.040.040.040.040.040.040.040.040.040.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.010.000.010.010.010.010.000.000.000.000.010.000.000.010.000.010.000.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00235314124841121062.5111111111111111111NANANANANA0.00100.6700.400.6702.0200.502.0201.0100.500.2500.502.0102.0101.0102.010
3373libllama.so - hashtable.h:2077-2077 [...]std::_Hashtable<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, unsigned char>, s...Single0.080.040.000.000.040.040.000.040.040.040.080.040.120.080.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.010.010.000.010.010.020.010.010.010.000.000.000.000.000.000.010.010.000.010.010.020.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001100110111111110501121100110111111110002050.00102.0102.0202.0102.0302.0202.0201.0102.0100.6701.01010
440libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.000.040.040.040.040.040.000.040.000.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.020.000.010.010.010.010.020.000.010.000.010.010.020.020.010.010.000.010.000.000.000.000.000.000.000.010.010.000.000.010.010.000.010.000.010.020.010.000.010.000.010.010.010.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00220211120101211025114110111110101111NANANANANA0.00101.0101.0102.0202.0102.0201.0102.0202.0101.0102.0102.010
449libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.040.040.040.040.080.040.040.040.080.040.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.030.030.020.020.030.030.030.020.030.020.020.020.020.030.000.010.000.010.000.000.000.010.010.010.010.010.010.010.010.010.010.010.020.010.020.020.010.010.010.010.010.020.020.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00275446225254437025114111111111.671111.3311.56NANANANANA0.00100.2900.400.500.5100.3301.0101.0100.3401.0100.400.500.3400.6700.220
3084libllama.so - hashtable.h:2627-2644 [...]std::_Hashtable<std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::pair<std::pai...Innermost0.080.080.000.000.080.040.080.040.080.080.080.040.080.000.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.000.010.000.010.010.010.010.010.010.010.000.010.010.010.000.000.010.000.010.010.010.010.010.010.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00110011111111101050112110011111111101NANANANANA0.00101.0101.0102.0101.0102.0301.0101.0101.0102.0101.01010
442libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.000.000.040.000.040.040.000.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.020.020.000.000.020.000.020.010.000.010.010.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.010.000.010.000.000.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00113002011011100025114111001011011100NANANANANA0.00101.0100.3400.501.0101.0101.010101.010
1101exec - basic_string.h:198-433 [...]std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >* std::__do_uninit_copy<__gnu_cxx::__normal_iterator<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > co...Innermost0.040.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00100100000000000042.05113.17100100000000000NANANANANA0.00101.010
435libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.000.040.040.040.040.040.040.040.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.010.000.010.010.010.010.010.010.010.010.000.010.000.000.010.010.000.000.000.000.010.000.000.000.000.000.010.010.010.010.010.000.010.010.010.010.010.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00122201127131103025114111101111111101NANANANANA0.00100.500.500.50101.0100.5100.1401.0100.340101.0100.330
3063libllama.so - hashtable.h:2077-2077 [...]std::__detail::_Map_base<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, int>, st...Single0.040.040.000.040.000.000.040.000.000.040.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001101001001000010501121101001001000010002050.00101.0101.0101.0101.01010
420libggml-base.so - ggml-quants.c:203-203 [...]quantize_row_q8_0_refInBetween0.040.000.040.000.000.000.000.000.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00101000000102000025114101000000101000NANANANANA0.00101.0101.0100.50
61libggml-cpu.so - ggml-cpu.c:2129-2860 [...]ggml_graph_planOutermost0.040.040.040.000.000.000.000.000.080.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00111000001000010040.63113.17111000001000010NANANANANA0.00101.0101.0100.501.010
3223libllama.so - new_allocator.h:172-172 [...]llama_vocab::impl::~impl()Single0.040.000.040.000.040.000.000.000.040.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00101010001000010045.83111.71010100010000100001.5050.00101.0101.0101.0101.010
3065libllama.so - hashtable.h:2627-2644 [...]std::_Hashtable<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, int>, std::alloca...Innermost0.040.000.040.000.040.000.000.040.000.000.040.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00101010010010011050112101010010010011NANANANANA0.00101.0101.0101.0101.0101.01010
424libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.000.000.040.000.040.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.010.000.000.000.000.000.000.010.000.000.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00112002020010000025114111001010010000NANANANANA0.00101.0100.500.500.5101.010
1512libllama.so - stl_tree.h:1947-1948 [...]llama_kv_cache::apply_ubatch(llama_kv_cache::slot_info const&, llama_ubatch const&)Innermost0.040.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001000000000000100501121000000000000100001050.00101.010
1472libllama.so - llama-kv-cache.cpp:556-557 [...]llama_kv_cache::prepare(std::vector<llama_ubatch, std::allocator<llama_ubatch> > const&)InBetween0.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001000000000000007.2853.444.3611.25100000000000000NANANANANA0.0010
445libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.040.040.040.040.040.040.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.020.020.020.020.020.020.020.020.020.020.010.020.020.020.000.010.000.010.000.000.000.000.010.010.010.010.000.010.000.000.010.010.010.010.010.020.020.010.020.020.010.010.020.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00133353844644144025114111111111111111NANANANANA0.00100.3400.3400.3400.200.3300.1300.2500.2500.1700.2500.2501.0100.2500.250
3082libllama.so - hashtable.h:2074-2077 [...]std::_Hashtable<std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::pair<std::pai...Single0.040.040.000.040.040.000.120.040.040.040.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.000.000.010.000.000.000.000.000.000.000.000.000.010.010.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00110110111101010050112110110111101010NANANANANA0.00101.0101.0101.0100.3401.0101.0101.010101.010
425libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.040.040.040.040.040.040.040.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.010.000.000.010.000.000.000.000.000.010.010.010.000.000.010.010.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00112121143120001025114111111111110001NANANANANA0.00101.0100.501.0100.510101.0100.2500.3401.0100.5010
2867libllama.so - llama-vocab.cpp:2298-2336 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)InBetween0.040.040.040.000.000.040.040.000.000.000.000.040.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00111001100001011042.36114111001100001011NANANANANA0.00101.0101.010101.010101.01010
426libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.000.000.040.000.040.000.040.040.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00130010101200200025114110010101100100NANANANANA0.00100.3401.0101.0101.0100.5100.50
444libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.000.040.040.000.040.040.040.040.040.040.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.020.020.000.020.020.020.010.020.020.000.020.000.020.000.000.000.000.000.010.000.000.000.010.010.000.000.000.010.000.000.000.010.000.010.020.010.000.010.020.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00101101211310102025114101101111110101NANANANANA0.00101.0101.010100.5101.0101.0100.3401.0101.0100.50
2873libllama.so - llama-vocab.cpp:2148-2289 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)Innermost0.040.000.000.040.040.040.040.040.000.000.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00100111110000110044.79114.52100111110000110NANANANANA0.00101.0101.010101.0101.0101.0101.010
1384exec - stl_algobase.h:401-405 [...]std::vector<std::__cxx11::sub_match<__gnu_cxx::__normal_iterator<char const*, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > > >, std::allocator<std::__cxx11::sub_match<__gnu_cxx::__no...Single0.040.080.040.040.000.040.040.040.000.080.000.000.000.080.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.010.000.010.000.000.000.010.000.000.010.000.000.000.000.000.010.000.010.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00111101110100011035.42113.011111011101000110020075.00100.501.0101.010101.0101.0100.5100.5010
439libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.040.040.040.040.040.040.040.040.040.040.040.000.080.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.020.010.010.010.010.020.010.010.010.000.010.010.010.010.010.010.000.010.010.000.010.010.010.010.000.010.000.010.010.010.010.010.010.010.020.010.010.010.010.000.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.001353244242302220251141111111111101.3311NANANANANA0.00100.3400.200.3400.5100.2500.2500.5100.2500.5100.3400.3400.500.50
1094libggml-base.so - stl_uninitialized.h:642-642 [...]std::vector<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::allocator<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > > >::_M_default_appe...Single0.040.000.040.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00101001000000000053.13111.881010010000000001001075.00101.01010
55libggml-cpu.so - ggml-cpu.c:1125-1395 [...]ggml_compute_forward_mul_matOutermost0.040.040.040.040.000.040.040.040.000.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.360.370.370.390.000.380.350.400.000.380.360.350.350.370.000.010.000.010.000.000.000.000.010.000.000.000.000.000.010.000.050.050.040.030.000.060.030.070.000.080.060.090.040.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.040.040.050.000.040.040.050.000.040.040.040.040.040.00121101220141110NANANANANA111101110111110NANANANANA0.00100.501.0101.010100.5100.5101.0100.250101.0101.010
1395libllama.so - ostream:578-673 [...]gguf_kv_to_str[abi:cxx11](gguf_context const*, int)Innermost0.000.000.000.000.000.000.000.080.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000011000000042.38111000000011000000NANANANANA0.001010
1324libllama.so - llama-graph.cpp:499-506 [...]llm_graph_result::can_reuse(llm_graph_params const&)Single0.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000000100039.29113.48000000000000100NANANANANA0.0010
436libggml-cpu.so - binary-ops.cpp:10-110 [...]ggml_compute_forward_add_non_quantizedOutermost0.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000000001051.1112000000000000001NANANANANA0.0010
1317libggml-cpu.so - ops.cpp:4319-4365 [...]ggml_compute_forward_rms_normInBetween0.000.000.000.040.000.000.040.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000001001000000023.9456.13.451.141.35000100100000001NANANANANA0.00101010
3251libllama.so - unicode.cpp:130-131 [...]unicode_cpt_flags_array()Innermost0.000.000.040.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00001000001000000012.51180010000010000001017058.331010
1357exec - regex_executor.tcc:47-88 [...]std::__detail::_Executor<__gnu_cxx::__normal_iterator<char const*, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::allocator<std::__cxx11::sub_match<__gnu_cxx::__normal_iterator<ch...Single0.000.000.000.000.000.000.040.000.040.000.000.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000101000101045.63111.2500000010100010110000100.0010101010
1514libllama.so - stl_tree.h:2111-2115 [...]llama_kv_cache::apply_ubatch(llama_kv_cache::slot_info const&, llama_ubatch const&)Innermost0.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000100000000NANA1NANA0000001000000000001125.0010
1704libllama.so - hashtable.h:2074-2077 [...]std::__detail::_Map_base<int, std::pair<int const, int>, std::allocator<std::pair<int const, int> >, std::__detail::_Select1st, std::equal_to<int>, std::hash<int>, std::__detail::_Mod_range_hashing, std::__detail::_Default_...Single0.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000001000000000501120000001000000000002050.0010
34exec - main.cpp:562-973 [...]mainOutermost0.000.000.000.000.000.000.000.000.040.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000001001000041.68111.27000000001001000NANANANANA0.001010
3226libllama.so - new_allocator.h:172-172 [...]std::_Hashtable<std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::pair<std::pai...Single0.000.080.080.120.040.080.120.000.080.080.120.000.160.120.120.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.000.010.010.000.010.010.020.000.020.010.010.000.010.010.010.000.010.010.000.010.010.020.000.020.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00011111101110111050112011111101110111NANANANANA0.00101010101010101010101010
3083libllama.so - hashtable.h:2627-2644 [...]std::_Hashtable<std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::pair<std::pai...Outermost0.000.000.040.040.000.000.000.000.000.000.000.040.000.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00001100000001010NANANANANA001100000001010NANANANANA0.0010101010
1509libggml-cpu.so - ops.cpp:5551-5563ggml_compute_forward_set_rowsInBetween0.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00001100000000000NANANANANA001100000000000NANANANANA0.001010
1074libggml-cpu.so - ops.cpp:711-713ggml_compute_forward_dupInnermost0.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000000001000000501120000000001000001001075.0010
1561libllama.so - stl_algobase.h:952-952llama_kv_cache::set_input_kq_mask(ggml_tensor*, llama_ubatch const*, bool) constSingle0.000.040.000.000.040.000.000.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0001001000101000010010011101001000101000001000100.0010101010
2938libllama.so - stl_tree.h:1963-1964 [...]llama_vocab_is_eogSingle0.000.040.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000100000000001000501120100000000001000001050.001010
434libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.000.040.000.040.040.000.040.000.040.000.040.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.010.000.010.000.000.000.010.000.000.010.010.000.010.000.000.010.000.000.000.000.000.010.000.000.000.000.000.010.000.010.010.000.010.000.010.000.010.000.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00010110101010021025114010110101010011NANANANANA0.001010101010101010
2504libllama.so - stl_heap.h:229-235llama_token_data_array_partial_sort_inplace(llama_token_data_array*, int)Innermost0.000.040.000.000.000.000.000.040.000.000.000.040.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00010000010001011035.71614010000010001011NANANANANA0.001010101010
408libggml-cpu.so - traits.cpp:26-30 [...]ggml_cpu_extra_work_sizeSingle0.000.000.000.000.040.000.080.000.000.040.000.080.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000010100101010048.44112.520000101001010100102074.381010101010
724libllama.so - llama-context.cpp:1217-1220llama_context::decode(llama_batch const&)Innermost0.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000010000000000033.33113.730000100000000001000150.0010
1510libggml-cpu.so - ops.cpp:5550-5563ggml_compute_forward_set_rowsOutermost0.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000001000000NANANANANA000000001000000NANANANANA0.0010
3064libllama.so - hashtable.h:2627-2644 [...]std::_Hashtable<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, int>, std::alloca...Outermost0.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000001000000000NANANANANA000001000000000NANANANANA0.0010
426libllama.so - stl_tree.h:1963-1964 [...]LLM_TN_IMPL::str[abi:cxx11]() constSingle0.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000001000000000501120000001000000000001050.0010
2916libllama.so - new_allocator.h:172-172 [...]llama_decode_text(std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const&)Single0.000.000.080.000.040.000.000.000.040.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.010.000.000.000.000.000.000.000.000.010.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00001010001000001040.44114.39001010001000001NANANANANA0.0010101010
2850libllama.so - basic_string.h:218-1084 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)Innermost0.000.040.000.000.000.040.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00010001000000001043.75111.33010001000000001NANANANANA0.00101010
71libggml-cpu.so - ggml-cpu.c:3528-3536 [...]ggml_cpu_initSingle0.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000100000000088.4192.03111.0100000100000000022000100.0010
438libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.000.000.000.000.040.040.040.040.000.040.040.040.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.010.000.010.010.010.010.000.010.000.000.000.000.010.010.000.000.000.000.010.000.000.000.000.000.000.000.000.010.010.010.010.000.010.010.010.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000023120132104025114000011110111101NANANANANA0.00101010101010101010
2842libllama.so - new_allocator.h:172-172 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)InBetween0.000.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000010100000000003.3343.86.0911.07001010000000000NANANANANA0.001010
60libggml-cpu.so - ggml-cpu.c:1289-1297ggml_compute_forward_mul_matOutermost0.000.040.040.040.040.040.080.040.040.000.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.010.010.010.010.010.010.000.010.010.010.010.010.000.010.000.000.010.000.010.000.000.000.000.000.010.000.010.000.010.020.010.010.000.010.000.000.000.000.010.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000623433120234270501120111111.5110111111001075.0010101010101010101010101010
1558libllama.so - llama-kv-cache.cpp:1239-1436 [...]llama_kv_cache::set_input_kq_mask(ggml_tensor*, llama_ubatch const*, bool) constInnermost0.000.000.000.000.000.000.000.000.000.040.000.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000101000029.552.7513.89000000000101000NANANANANA0.001010
1471libllama.so - llama-kv-cells.h:14-14 [...]llama_kv_cache::prepare(std::vector<llama_ubatch, std::allocator<llama_ubatch> > const&)Innermost0.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000001000000000000501120001000000000000001050.0010
422libggml-base.so - ggml-impl.h:355-404 [...]quantize_row_q8_0_refInBetween0.000.000.000.000.000.000.080.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000010001000003011.254000000100010000NANANANANA0.001010
2505libllama.so - stl_heap.h:140-358 [...]llama_token_data_array_partial_sort_inplace(llama_token_data_array*, int)Outermost0.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00001000000000000041.67113.2001000000000000NANANANANA0.0010
1911libggml-cpu.so - vec.h:740-745ggml_compute_forward_flash_attn_extInnermost0.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000100000000010010011100000100000000010000100.0010
1645libllama.so - new_allocator.h:172-172 [...]std::vector<llama_kv_cache::slot_info, std::allocator<llama_kv_cache::slot_info> >::~vector()Innermost0.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00010000000000000066.67111010000000000000NANANANANA0.0010
1475libllama.so - llama-kv-cells.h:17-19 [...]llama_kv_cache::prepare(std::vector<llama_ubatch, std::allocator<llama_ubatch> > const&)Innermost0.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000001000000031.25113000000001000000000030.0010
1505libggml-cpu.so - vec.h:89-89ggml_compute_forward_get_rowsInnermost0.000.000.000.000.000.000.000.000.040.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000000100000166.6783.33111.0900000000100000102000100.001010
41exec - main.cpp:663-681 [...]mainInnermost0.000.040.000.040.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00010100001000000036.05114010100001000000NANANANANA0.00101010
280libggml-base.so - ggml-impl.h:192-297 [...]ggml_backend_sched_get_tensor_backendSingle0.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000100000035113.50000000001000001000233.3310
1102exec - basic_string.h:198-433 [...]std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >* std::__do_uninit_copy<__gnu_cxx::__normal_iterator<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > co...Outermost0.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000010000NANANANANA000000000010000NANANANANA0.0010
1994libllama.so - stl_tree.h:1963-1964 [...]std::_Rb_tree<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, llama_model_loader::ll...Innermost0.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000100000044.74112.75000000000100000NANANANANA0.0010
428libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.000.000.040.000.000.040.000.000.040.000.000.040.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00001001001001002025114001001001001001NANANANANA0.001010101010
432libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.000.040.040.000.040.000.040.000.000.000.000.040.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.010.000.010.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.010.000.010.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00012020100001201025114011010100001101NANANANANA0.0010101010101010
1090libggml-base.so - gguf.cpp:226-281 [...]bool gguf_reader::read<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >(std::vector<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::allocato...Innermost0.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00010000000000000045111.130100000000000003001087.5010
429libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.000.040.080.040.000.040.000.040.040.080.040.040.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.000.010.000.010.000.010.000.000.010.000.010.000.010.010.010.000.010.000.010.010.010.000.000.010.010.010.000.010.010.010.000.010.000.010.010.010.000.000.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00023104042221423025114011.51010111.3311111NANANANANA0.00101010101010101010101010
1499libggml-cpu.so - ops.cpp:5371-5517 [...]ggml_compute_forward_get_rowsInBetween0.000.000.000.000.000.040.000.000.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000001000021000071.25111000001000011000NANANANANA0.00101010
436libggml-base.so - ggml-quants.c:203-212 [...]quantize_row_q8_0_refInBetween0.000.040.000.000.040.040.000.040.040.040.040.000.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.010.000.010.010.010.010.000.010.010.010.000.010.000.000.010.000.000.000.000.010.010.000.010.010.010.000.010.000.000.010.010.000.010.010.010.010.000.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00020012011120322025114010011011110111NANANANANA0.0010101010101010101010
2858libllama.so - stl_vector.h:993-1912 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)Innermost0.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000010000000049111.2000000010000000NANANANANA0.0010
2478libllama.so - llama-sampling.cpp:370-463 [...]llama_sampler_chain_apply(llama_sampler*, llama_token_data_array*)Single0.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000000100000000501120000000100000000102066.6710
1073libggml-cpu.so - ops.cpp:708-713ggml_compute_forward_dupOutermost0.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000010000057.14111.170000000000100001001075.0010
1894libggml-cpu.so - ops.cpp:8778-8920 [...]ggml_compute_forward_flash_attn_extOutermost0.000.000.000.000.000.040.000.000.040.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.330.000.000.320.000.000.000.000.340.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.170.000.000.130.000.000.000.000.090.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.040.000.000.000.000.040.00000002001000010050112000001001000010NANANANANA0.00101010
1469libllama.so - stl_tree.h:171-670 [...]llama_kv_cache::prepare(std::vector<llama_ubatch, std::allocator<llama_ubatch> > const&)Innermost0.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000100000000075111.330000001000000000004050.0010
489libllama.so - new_allocator.h:172-172 [...]llama_batch_allocr::clear()Single0.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000001000047.5112.290000000000010000001050.0010
2876libllama.so - new_allocator.h:172-172 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)Single0.000.040.080.000.000.080.000.040.000.040.000.000.040.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.010.000.000.000.000.010.010.000.000.000.010.000.000.010.000.010.000.000.000.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000110010101001107.9248.894.8711.13011001010100110NANANANANA0.0010101010101010
2592libllama.so - llama-sampling.cpp:281-1176 [...]llama_sampler_temp_ext_apply(llama_sampler*, llama_token_data_array*)Outermost0.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000010000000000010.7153.573.51.031.25000100000000000NANANANANA0.0010
2866libllama.so - char_traits.h:381-381 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)Innermost0.000.040.040.000.000.000.000.000.040.040.000.000.040.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00011000001100101048.08114011000001100101NANANANANA0.00101010101010
3243libllama.so - vector.tcc:114-694 [...]unicode_cpts_from_utf8(std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const&)Single0.000.000.000.000.000.000.000.000.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000011000050111.15000000000011000NANANANANA0.001010
2497libllama.so - stl_heap.h:229-235llama_token_data_array_partial_sort_inplace(llama_token_data_array*, int)Innermost0.000.000.000.000.000.000.040.000.040.000.040.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000101010010035.911.33140000001010100100004050.0010101010
97libggml-base.so - ggml.c:6414-6462 [...]ggml_visit_parentsOutermost0.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000010000033.5113.39000000000010000NANANANANA0.0010
1508libggml-cpu.so - ops.cpp:5552-5563ggml_compute_forward_set_rowsInnermost0.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000000000001000501120000000000001003002080.0010
459libllama.so - llama-batch.cpp:254-432 [...]llama_batch_allocr::init(llama_batch const&, llama_vocab const&, llama_memory_i const*, unsigned int, unsigned int, bool)Innermost0.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000100000000033.33114000000100000000NANANANANA0.0010
1892libggml-cpu.so - ops.cpp:8885-8886 [...]ggml_compute_forward_flash_attn_extInnermost0.000.040.000.040.000.040.040.040.040.000.000.000.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.010.000.000.000.000.010.000.000.000.000.000.000.010.000.010.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0001020111100012087.581.2511101010111100011011000100.001010101010101010
3076libllama.so - stl_uninitialized.h:642-642 [...]std::vector<llama_vocab::token_data, std::allocator<llama_vocab::token_data> >::_M_default_append(unsigned long)Single0.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00010000000000000078.57111.20100000000000000001050.0010
1063libggml-base.so - gguf.cpp:142-144 [...]gguf_kv::gguf_kv<int>(std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const&, std::vector<int, std::allocator<int> > const&)Single0.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000000000100002511400000000000100020000100.0010
452libllama.so - stl_bvector.h:100-1542 [...]llama_batch_allocr::init(llama_batch const&, llama_vocab const&, llama_memory_i const*, unsigned int, unsigned int, bool)InBetween0.000.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0001000000000000029.9160.022.311.18010000000000000NANANANANA0.0010
3368libllama.so - char_traits.h:381-381 [...]std::_Hashtable<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, unsigned char>, s...Outermost0.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000100000000075111000000100000000NANANANANA0.0010
686libllama.so - shared_ptr_base.h:337-1068 [...]llama_context::process_ubatch(llama_ubatch const&, llm_graph_type, llama_memory_context_i*, ggml_status&)Single0.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000000001052.08111000000000000001NANANANANA0.0010
3224libllama.so - new_allocator.h:172-172 [...]llama_vocab::impl::~impl()Single0.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000100000050112000000000100000NANANANANA0.0010
489libggml-base.so - ggml-quants.c:408-412 [...]dequantize_row_q8_0Single0.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000000000000167.3571.681.211.031.06000000000000001000000.0010
2611libllama.so - llama-sampling.cpp:287-1255 [...]llama_sample_xtc_apply(llama_sampler*, llama_token_data_array*)Outermost0.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000000000000107.2547.834.581.021.1000000000000010NANANANANA0.0010
978libggml-base.so - new_allocator.h:172-172 [...]bool gguf_read_emplace_helper<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >(gguf_reader const&, std::vector<gguf_kv, std::allocator<gguf_kv> >&, std::__cxx11::basic_string<c...Innermost0.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000000001050112000000000000001NANANANANA0.0010
225libggml-base.so - ggml-impl.h:192-297 [...]ggml_backend_sched_split_graphInnermost0.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000001000035113.50000000000010001000233.3310
×