options

Loops Index

Columns Filter

Level Max Thread Time / Walltime 1x1 (%) Max Thread Time / Walltime 1x2 (%) Max Thread Time / Walltime 1x4 (%) Max Thread Time / Walltime 1x8 (%) Max Thread Time / Walltime 1x16 (%) Max Thread Time / Walltime 1x24 (%) Max Thread Time / Walltime 1x32 (%) Max Thread Time / Walltime 1x40 (%) Max Thread Time / Walltime 1x48 (%) Max Thread Time / Walltime 1x56 (%) Max Thread Time / Walltime 1x64 (%) Exclusive Coverage 1x1 (%) Exclusive Coverage 1x2 (%) Exclusive Coverage 1x4 (%) Exclusive Coverage 1x8 (%) Exclusive Coverage 1x16 (%) Exclusive Coverage 1x24 (%) Exclusive Coverage 1x32 (%) Exclusive Coverage 1x40 (%) Exclusive Coverage 1x48 (%) Exclusive Coverage 1x56 (%) Exclusive Coverage 1x64 (%) Inclusive Coverage 1x1 (%) Inclusive Coverage 1x2 (%) Inclusive Coverage 1x4 (%) Inclusive Coverage 1x8 (%) Inclusive Coverage 1x16 (%) Inclusive Coverage 1x24 (%) Inclusive Coverage 1x32 (%) Inclusive Coverage 1x40 (%) Inclusive Coverage 1x48 (%) Inclusive Coverage 1x56 (%) Inclusive Coverage 1x64 (%) Max Exclusive Time Over Threads 1x1 (s) Max Exclusive Time Over Threads 1x2 (s) Max Exclusive Time Over Threads 1x4 (s) Max Exclusive Time Over Threads 1x8 (s) Max Exclusive Time Over Threads 1x16 (s) Max Exclusive Time Over Threads 1x24 (s) Max Exclusive Time Over Threads 1x32 (s) Max Exclusive Time Over Threads 1x40 (s) Max Exclusive Time Over Threads 1x48 (s) Max Exclusive Time Over Threads 1x56 (s) Max Exclusive Time Over Threads 1x64 (s) Max Inclusive Time Over Threads 1x1 (s) Max Inclusive Time Over Threads 1x2 (s) Max Inclusive Time Over Threads 1x4 (s) Max Inclusive Time Over Threads 1x8 (s) Max Inclusive Time Over Threads 1x16 (s) Max Inclusive Time Over Threads 1x24 (s) Max Inclusive Time Over Threads 1x32 (s) Max Inclusive Time Over Threads 1x40 (s) Max Inclusive Time Over Threads 1x48 (s) Max Inclusive Time Over Threads 1x56 (s) Max Inclusive Time Over Threads 1x64 (s) Exclusive Time w.r.t. Wall Time 1x1 (s) Exclusive Time w.r.t. Wall Time 1x2 (s) Exclusive Time w.r.t. Wall Time 1x4 (s) Exclusive Time w.r.t. Wall Time 1x8 (s) Exclusive Time w.r.t. Wall Time 1x16 (s) Exclusive Time w.r.t. Wall Time 1x24 (s) Exclusive Time w.r.t. Wall Time 1x32 (s) Exclusive Time w.r.t. Wall Time 1x40 (s) Exclusive Time w.r.t. Wall Time 1x48 (s) Exclusive Time w.r.t. Wall Time 1x56 (s) Exclusive Time w.r.t. Wall Time 1x64 (s) Inclusive Time w.r.t. Wall Time 1x1 (s) Inclusive Time w.r.t. Wall Time 1x2 (s) Inclusive Time w.r.t. Wall Time 1x4 (s) Inclusive Time w.r.t. Wall Time 1x8 (s) Inclusive Time w.r.t. Wall Time 1x16 (s) Inclusive Time w.r.t. Wall Time 1x24 (s) Inclusive Time w.r.t. Wall Time 1x32 (s) Inclusive Time w.r.t. Wall Time 1x40 (s) Inclusive Time w.r.t. Wall Time 1x48 (s) Inclusive Time w.r.t. Wall Time 1x56 (s) Inclusive Time w.r.t. Wall Time 1x64 (s) Nb Threads 1x1 Nb Threads 1x2 Nb Threads 1x4 Nb Threads 1x8 Nb Threads 1x16 Nb Threads 1x24 Nb Threads 1x32 Nb Threads 1x40 Nb Threads 1x48 Nb Threads 1x56 Nb Threads 1x64 Vectorization Ratio (%) Vector Length Use (%) Speedup If No Scalar Integer Speedup If FP Vectorized Speedup If Fully Vectorized Speedup If Perfect Load Balancing 1x1 Speedup If Perfect Load Balancing 1x2 Speedup If Perfect Load Balancing 1x4 Speedup If Perfect Load Balancing 1x8 Speedup If Perfect Load Balancing 1x16 Speedup If Perfect Load Balancing 1x24 Speedup If Perfect Load Balancing 1x32 Speedup If Perfect Load Balancing 1x40 Speedup If Perfect Load Balancing 1x48 Speedup If Perfect Load Balancing 1x56 Speedup If Perfect Load Balancing 1x64 Stride 0 Stride 1 Stride n Stride Unknown Stride Indirect Array Access Efficiency (1x1) Efficiency (1x1) Potential Speed-Up (%) (1x2) Efficiency (1x2) Potential Speed-Up (%) (1x4) Efficiency (1x4) Potential Speed-Up (%) (1x8) Efficiency (1x8) Potential Speed-Up (%) (1x16) Efficiency (1x16) Potential Speed-Up (%) (1x24) Efficiency (1x24) Potential Speed-Up (%) (1x32) Efficiency (1x32) Potential Speed-Up (%) (1x40) Efficiency (1x40) Potential Speed-Up (%) (1x48) Efficiency (1x48) Potential Speed-Up (%) (1x56) Efficiency (1x56) Potential Speed-Up (%) (1x64) Efficiency (1x64) Potential Speed-Up (%) Level Max Thread Time / Walltime Exclusive Coverage Inclusive Coverage Max Exclusive Time Over Threads Max Inclusive Time Over Threads Exclusive Time w.r.t. Wall Time Inclusive Time w.r.t. Wall Time Nb Threads Vectorization Ratio Vector Length Use Speedup If No Scalar Integer Speedup If FP Vectorized Speedup If Fully Vectorized Speedup If Perfect Load Balancing Stride 0 Stride 1 Stride n Stride Unknown Stride Indirect Array Access Efficiency Efficiency Potential Speed-Up
Run 1 Run 2 Run 3 Run 4 Run 5 Run 6 Run 7 Run 8 Run 9 Run 10 Run 11
Loop idSource LocationSource FunctionLevelMax Thread Time / Walltime 1x1 (%)Max Thread Time / Walltime 1x2 (%)Max Thread Time / Walltime 1x4 (%)Max Thread Time / Walltime 1x8 (%)Max Thread Time / Walltime 1x16 (%)Max Thread Time / Walltime 1x24 (%)Max Thread Time / Walltime 1x32 (%)Max Thread Time / Walltime 1x40 (%)Max Thread Time / Walltime 1x48 (%)Max Thread Time / Walltime 1x56 (%)Max Thread Time / Walltime 1x64 (%)Exclusive Coverage 1x1 (%)Exclusive Coverage 1x2 (%)Exclusive Coverage 1x4 (%)Exclusive Coverage 1x8 (%)Exclusive Coverage 1x16 (%)Exclusive Coverage 1x24 (%)Exclusive Coverage 1x32 (%)Exclusive Coverage 1x40 (%)Exclusive Coverage 1x48 (%)Exclusive Coverage 1x56 (%)Exclusive Coverage 1x64 (%)Inclusive Coverage 1x1 (%)Inclusive Coverage 1x2 (%)Inclusive Coverage 1x4 (%)Inclusive Coverage 1x8 (%)Inclusive Coverage 1x16 (%)Inclusive Coverage 1x24 (%)Inclusive Coverage 1x32 (%)Inclusive Coverage 1x40 (%)Inclusive Coverage 1x48 (%)Inclusive Coverage 1x56 (%)Inclusive Coverage 1x64 (%)Max Exclusive Time Over Threads 1x1 (s)Max Exclusive Time Over Threads 1x2 (s)Max Exclusive Time Over Threads 1x4 (s)Max Exclusive Time Over Threads 1x8 (s)Max Exclusive Time Over Threads 1x16 (s)Max Exclusive Time Over Threads 1x24 (s)Max Exclusive Time Over Threads 1x32 (s)Max Exclusive Time Over Threads 1x40 (s)Max Exclusive Time Over Threads 1x48 (s)Max Exclusive Time Over Threads 1x56 (s)Max Exclusive Time Over Threads 1x64 (s)Max Inclusive Time Over Threads 1x1 (s)Max Inclusive Time Over Threads 1x2 (s)Max Inclusive Time Over Threads 1x4 (s)Max Inclusive Time Over Threads 1x8 (s)Max Inclusive Time Over Threads 1x16 (s)Max Inclusive Time Over Threads 1x24 (s)Max Inclusive Time Over Threads 1x32 (s)Max Inclusive Time Over Threads 1x40 (s)Max Inclusive Time Over Threads 1x48 (s)Max Inclusive Time Over Threads 1x56 (s)Max Inclusive Time Over Threads 1x64 (s)Exclusive Time w.r.t. Wall Time 1x1 (s)Exclusive Time w.r.t. Wall Time 1x2 (s)Exclusive Time w.r.t. Wall Time 1x4 (s)Exclusive Time w.r.t. Wall Time 1x8 (s)Exclusive Time w.r.t. Wall Time 1x16 (s)Exclusive Time w.r.t. Wall Time 1x24 (s)Exclusive Time w.r.t. Wall Time 1x32 (s)Exclusive Time w.r.t. Wall Time 1x40 (s)Exclusive Time w.r.t. Wall Time 1x48 (s)Exclusive Time w.r.t. Wall Time 1x56 (s)Exclusive Time w.r.t. Wall Time 1x64 (s)Inclusive Time w.r.t. Wall Time 1x1 (s)Inclusive Time w.r.t. Wall Time 1x2 (s)Inclusive Time w.r.t. Wall Time 1x4 (s)Inclusive Time w.r.t. Wall Time 1x8 (s)Inclusive Time w.r.t. Wall Time 1x16 (s)Inclusive Time w.r.t. Wall Time 1x24 (s)Inclusive Time w.r.t. Wall Time 1x32 (s)Inclusive Time w.r.t. Wall Time 1x40 (s)Inclusive Time w.r.t. Wall Time 1x48 (s)Inclusive Time w.r.t. Wall Time 1x56 (s)Inclusive Time w.r.t. Wall Time 1x64 (s)Nb Threads 1x1Nb Threads 1x2Nb Threads 1x4Nb Threads 1x8Nb Threads 1x16Nb Threads 1x24Nb Threads 1x32Nb Threads 1x40Nb Threads 1x48Nb Threads 1x56Nb Threads 1x64Vectorization Ratio (%)Vector Length Use (%)Speedup If No Scalar IntegerSpeedup If FP VectorizedSpeedup If Fully VectorizedSpeedup If Perfect Load Balancing 1x1Speedup If Perfect Load Balancing 1x2Speedup If Perfect Load Balancing 1x4Speedup If Perfect Load Balancing 1x8Speedup If Perfect Load Balancing 1x16Speedup If Perfect Load Balancing 1x24Speedup If Perfect Load Balancing 1x32Speedup If Perfect Load Balancing 1x40Speedup If Perfect Load Balancing 1x48Speedup If Perfect Load Balancing 1x56Speedup If Perfect Load Balancing 1x64Stride 0Stride 1Stride nStride UnknownStride IndirectArray Access Efficiency(1x1) Efficiency(1x1) Potential Speed-Up (%)(1x2) Efficiency(1x2) Potential Speed-Up (%)(1x4) Efficiency(1x4) Potential Speed-Up (%)(1x8) Efficiency(1x8) Potential Speed-Up (%)(1x16) Efficiency(1x16) Potential Speed-Up (%)(1x24) Efficiency(1x24) Potential Speed-Up (%)(1x32) Efficiency(1x32) Potential Speed-Up (%)(1x40) Efficiency(1x40) Potential Speed-Up (%)(1x48) Efficiency(1x48) Potential Speed-Up (%)(1x56) Efficiency(1x56) Potential Speed-Up (%)(1x64) Efficiency(1x64) Potential Speed-Up (%)
2365libggml-cpu.so - quants.c:1089-1112 [...]ggml_vec_dot_q8_0_q8_0Single94.3593.3791.0387.5981.9479.1181.5079.0879.3080.0778.3494.7794.1092.4488.8385.5483.0483.8082.5381.5879.9181.2194.7794.1092.4488.8385.5483.0483.8082.5381.5879.9181.21168.3690.6346.0924.9217.5615.6214.9813.7713.3213.6713.35168.3690.6346.0924.9217.5615.6214.9813.7713.3213.6713.35168.3690.5746.0224.5417.5115.5914.7513.6813.0412.9313.08168.3690.5746.0224.5417.5115.5914.7513.6813.0412.9313.0812481624324048566428.5731.031.21.23.48111.011.031.021.021.041.031.051.091.05000000.00100.936.640.917.890.8612.640.634.130.4545.670.3653.910.3157.130.2759.640.2361.330.264.88
1840libggml-cpu.so - vec.h:375-751 [...]ggml_compute_forward_flash_attn_extInBetween1.341.061.101.140.790.960.650.630.710.670.671.341.051.060.910.580.510.340.340.320.220.191.601.281.341.160.750.650.520.550.490.360.312.381.020.560.320.170.190.120.110.120.120.122.851.240.700.380.200.230.200.180.190.210.182.381.010.530.250.120.100.060.060.050.040.032.851.230.670.320.150.120.090.090.080.060.05124816163232343332018.82.251.896.1311.021.061.311.451.362.081.61.711.941.95NANANANANA0.00101.1801.1301.1901.2501.0401.2601.0600.970.011.1901.230
54libggml-cpu.so - ggml-cpu.c:1183-1194 [...]ggml_compute_forward_mul_matInnermost0.560.540.640.620.470.350.440.260.240.230.210.560.500.520.420.310.210.210.170.150.100.090.560.500.520.420.310.210.210.170.150.100.091.000.520.320.170.100.070.080.050.040.040.041.000.520.320.170.100.070.080.050.040.040.041.000.480.260.110.060.040.040.030.020.020.011.000.480.260.110.060.040.040.030.020.020.0112481624324048556102511411.081.251.551.581.812.21.671.752.392.4410000100.00101.0400.960.021.0900.970.011.0500.830.040.910.020.890.021.0601.110
58libggml-cpu.so - ggml-cpu.c:1163-1198 [...]ggml_compute_forward_mul_matInBetween0.370.470.400.420.300.250.380.370.390.500.530.370.440.360.300.210.170.210.220.220.260.240.940.940.880.720.530.380.430.390.360.360.330.670.460.200.120.070.050.070.060.070.090.091.670.900.500.260.150.120.130.090.100.110.110.670.420.180.080.040.030.040.040.030.040.041.660.900.440.200.110.070.080.060.060.060.05124816243240485663024.3611211.11.161.471.511.641.911.821.942.082.31NANANANANA0.00100.790.090.940.02100.950.010.890.020.550.10.460.120.40.130.280.190.260.18
2366libggml-cpu.so - quants.c:910-948 [...]ggml_vec_dot_q8_0_q8_0Single0.290.290.290.260.210.200.220.230.210.200.210.300.290.290.270.210.190.210.210.190.170.180.300.290.290.270.210.190.210.210.190.170.180.530.280.140.080.050.040.040.040.040.040.040.530.280.140.080.050.040.040.040.040.040.040.520.280.140.070.040.040.040.030.030.030.030.520.280.140.070.040.040.040.030.030.030.0312481624324048566412.528.0311.073.8811.011.021.031.041.121.141.181.21.281.250007050.00100.940.020.920.020.890.030.750.050.60.080.450.110.380.130.360.120.330.120.290.13
1852libggml-cpu.so - vec.h:491-497ggml_compute_forward_flash_attn_extInnermost0.260.240.290.350.260.330.460.460.450.610.440.260.230.280.250.160.140.180.210.170.140.120.260.230.280.250.160.140.180.210.170.140.120.470.240.140.100.050.070.090.080.070.110.070.470.240.140.100.050.070.090.080.070.110.070.470.230.140.070.030.030.030.030.030.020.020.470.230.140.070.030.030.030.030.030.020.02124815163232323232405011211.041.051.481.571.642.781.921.942.71.9620000100.00101.0300.830.050.850.040.870.020.720.040.460.10.340.140.360.110.360.090.370.08
857libggml-cpu.so - vec.cpp:311-316ggml_vec_dot_f16Single0.250.290.380.330.370.350.350.520.450.470.440.260.290.270.250.210.140.150.230.180.140.110.260.290.270.250.210.140.150.230.180.140.110.460.280.190.100.080.070.060.090.070.080.080.460.280.190.100.080.070.060.090.070.080.080.450.280.140.070.040.030.030.040.030.020.020.450.280.140.070.040.030.030.040.030.020.02124816163132323232505011.47211.011.391.391.91.852.411.951.782.082.1120000100.00100.820.050.830.050.820.040.660.070.740.040.530.070.30.160.330.120.360.090.390.07
53libggml-cpu.so - ggml-cpu.c:1125-1395 [...]ggml_compute_forward_mul_matInnermost0.200.440.450.470.350.330.440.400.390.410.090.200.430.390.350.250.190.260.240.240.190.040.200.430.390.350.250.190.260.240.240.190.040.360.430.230.140.070.060.080.070.060.070.020.360.430.230.140.070.060.080.070.060.070.020.360.410.200.100.050.040.050.040.040.030.010.360.410.200.100.050.040.050.040.040.030.01124816243240485642023.8611211.051.181.41.51.871.81.821.722.391.75NANANANANA0.00100.440.240.460.210.460.190.440.140.420.110.250.20.230.180.190.20.210.150.980
2350libggml-cpu.so - ggml-impl.h:355-404 [...]quantize_row_q8_0Single0.170.210.190.250.210.350.300.340.270.200.180.170.180.170.150.160.190.130.140.110.090.080.170.180.170.150.160.190.130.140.110.090.080.300.200.090.070.050.070.050.060.040.040.030.300.200.090.070.050.070.050.060.040.040.030.300.170.080.040.030.040.020.020.020.010.010.300.170.080.040.030.040.020.020.020.010.0112481624324045545851.6731.151.131.313.1111.161.131.721.372.022.442.732.482.392.26000000.00100.850.030.880.020.90.020.550.070.350.120.40.080.330.090.350.070.360.060.370.05
865libggml-cpu.so - vec.h:1045-1072 [...]ggml_vec_swiglu_f32Single0.100.280.520.441.471.040.901.551.341.411.560.100.150.140.060.100.050.030.040.030.030.030.100.150.140.060.100.050.030.040.030.030.030.170.280.270.130.320.210.160.270.230.240.270.170.280.270.130.320.210.160.270.230.240.270.170.140.070.020.020.010.010.010.000.000.000.170.140.070.020.020.010.010.010.000.000.001232132212176.6746.351.031.381.6611.962.891.9212.861.941.9611.8812010091.67100.610.060.620.051.2900.530.050.770.010.9700.60.020.730.010.650.010.630.01
55libggml-cpu.so - ggml-cpu.c:1125-1395 [...]ggml_compute_forward_mul_matOutermost0.050.030.040.040.050.050.030.030.060.090.030.050.020.020.030.020.010.000.000.010.010.001.271.451.371.150.820.600.700.640.630.570.380.090.030.020.010.010.010.000.010.010.010.002.271.410.710.380.200.150.140.140.150.120.100.090.020.010.010.000.000.000.000.000.000.002.261.400.680.320.170.110.120.110.100.090.0612481012461074020.7411211.111.781.451.671.85111.672.331NANANANANA0.0010201.9901.6101.4801.3504.3702.9301.4601.9504.390
56libggml-cpu.so - ggml-cpu.c:1162-1198 [...]ggml_compute_forward_mul_matInBetween0.050.040.050.050.050.030.030.030.030.090.030.050.030.030.020.010.010.000.010.000.010.001.021.000.950.770.560.400.440.400.380.380.340.090.040.020.020.010.000.010.010.010.010.011.820.970.510.280.130.130.090.090.090.130.090.080.030.020.010.000.000.000.000.000.000.001.820.970.470.210.110.070.080.070.060.060.0612357858310202511411.231.251.51.7511112.311NANANANANA0.00101.3101.4101.6802.0902.0803.3102.0705.501.2708.290
484libggml-cpu.so - binary-ops.cpp:18-32 [...]ggml_compute_forward_mulInnermost0.040.090.140.260.330.430.410.460.860.530.380.040.040.040.030.020.020.010.010.020.010.010.040.040.040.030.020.020.010.010.020.010.010.080.090.070.080.070.090.070.080.150.090.070.080.090.070.080.070.090.070.080.150.090.070.080.040.020.010.000.000.000.000.000.000.000.080.040.020.010.000.000.000.000.000.000.0011211111111011.841110.67111.87111111110003050.00100.880.01100.9901.0500.8600.9700.9100.50.010.8101.130
0libggml-cpu.so - ggml-cpu.c:3228-3229 [...]ggml_cpu_fp32_to_fp16Single0.040.020.040.110.140.230.140.110.240.380.120.040.020.030.030.020.020.010.010.020.010.010.040.020.030.030.020.020.010.010.020.010.010.060.020.020.030.030.050.020.020.040.070.020.060.020.020.030.030.050.020.020.040.070.020.070.020.020.010.000.000.000.000.000.000.000.070.020.020.010.000.000.000.000.000.000.0012448710131212991.6749.3111.03211.141.232.183.693.323.332.894.176.242.7720000100.00101.850101.1700.9800.670.010.8400.700.550.010.510.010.980
57libggml-cpu.so - ggml-cpu.c:1162-1198 [...]ggml_compute_forward_mul_matInBetween0.040.040.070.090.050.050.050.030.060.090.060.040.030.040.030.010.010.010.010.010.010.010.970.970.920.750.540.390.440.400.370.380.340.060.040.040.020.010.010.010.010.010.010.011.730.940.510.280.130.120.100.090.090.120.110.070.030.020.010.000.000.000.000.000.000.001.730.930.460.210.110.070.080.070.060.060.051246810101215151702511411.081.7521.781.821.6711.872.251.7NANANANANA0.0010100.810.010.8501.4201.1601.0501.0600.7900.6300.630
1531libggml-cpu.so - ops.cpp:6446-6456 [...]ggml_compute_forward_rope_f32(ggml_compute_params const*, ggml_tensor*, bool)Innermost0.030.040.020.050.090.130.050.090.090.120.090.030.020.020.020.030.030.010.020.020.010.010.030.020.020.020.030.030.010.020.020.010.010.060.040.010.010.020.030.010.020.010.020.020.060.040.010.010.020.030.010.020.010.020.020.060.020.010.010.010.010.000.000.000.000.000.060.020.010.010.010.010.000.000.000.000.001245111481614181845.4522.441.071.614.7111.561.331.882.12.51.782.291.832.771.860012058.33101.3301.9901.4800.560.010.420.021.300.560.010.510.010.450.010.40.01
380libggml-cpu.so - binary-ops.cpp:10-32 [...]ggml_compute_forward_add_non_quantizedInnermost0.010.080.110.260.260.350.300.430.420.260.500.010.040.030.030.020.020.010.010.010.010.010.010.040.030.030.020.020.010.010.010.010.010.030.080.050.080.060.070.050.080.070.050.090.030.080.050.080.060.070.050.080.070.050.090.030.040.010.010.000.000.000.000.000.000.000.030.040.010.010.000.000.000.000.000.000.0011111111112012.51110.6711111111111.890003050.00100.330.030.450.020.330.020.450.010.350.010.440.010.330.010.350.010.5400.270.01
2499libllama.so - stl_heap.h:140-263 [...]llama_token_data_array_partial_sort_inplace(llama_token_data_array*, int)Outermost0.010.040.070.120.120.250.160.110.240.230.150.010.020.020.020.010.010.010.000.010.000.000.010.020.020.020.010.010.010.000.010.000.000.030.040.040.040.030.050.030.020.040.040.030.030.040.040.040.030.050.030.020.050.040.030.030.020.010.000.000.000.000.000.000.000.000.030.020.010.000.000.000.000.000.000.000.0011111111111016.494.6717.0611111111111NANANANANA0.00100.710.010.710.010.700.9800.490.010.8101.2200.6100.6100.980
1536libggml-cpu.so - ops.cpp:6220-6245 [...]ggml_compute_forward_rope_f32(ggml_compute_params const*, ggml_tensor*, bool)Innermost0.010.030.030.070.120.130.160.140.270.180.150.010.020.020.040.050.050.060.050.060.070.060.010.020.020.040.050.050.060.050.060.070.060.020.030.010.020.030.030.030.030.040.030.030.020.030.010.020.030.030.030.030.040.030.030.020.020.010.010.010.010.010.010.010.010.010.020.020.010.010.010.010.010.010.010.010.01123813212933375358013.07128.3911.671.2921.972.192.642.663.622.472.272001083.33100.670.010.570.010.250.030.120.050.080.050.060.060.060.040.040.060.030.070.030.06
1837libggml-cpu.so - vec.h:375-751 [...]ggml_compute_forward_flash_attn_extInBetween0.010.030.020.020.020.050.030.060.030.030.060.010.020.020.010.010.010.000.000.000.000.001.621.311.361.170.760.670.520.550.500.370.320.020.030.010.010.000.010.000.010.010.010.012.881.260.710.380.200.240.130.130.190.200.200.020.020.010.000.000.000.000.000.000.000.002.881.260.680.320.160.120.090.090.080.060.0512454535684024.682.011.341.3411.671.33111.6711.67111.6NANANANANA0.00100.670.010.660.010.7900.9800.6501.300.6500.6500.4900.780
1294libggml-cpu.so - ops.cpp:4325-4326ggml_compute_forward_rms_normInnermost0.010.030.060.090.140.080.140.200.150.120.180.010.010.020.010.010.000.010.010.000.000.000.010.010.020.010.010.000.010.010.000.000.000.020.030.030.030.030.010.020.040.020.020.030.020.030.030.030.030.010.020.040.020.020.030.020.010.010.000.000.000.000.000.000.000.000.020.010.010.000.000.000.000.000.000.000.001111112211116.6727.0811.2541111111.671.751110010075.00100.800.660.010.7900.6601.300.6500.4900.7800.9700.650
3346exec - sampling.cpp:125-126common_sampler::set_logits(llama_context*, int)Single0.010.020.060.000.050.130.080.060.060.150.000.010.010.020.000.000.010.000.000.000.000.000.010.010.020.000.000.010.000.000.000.000.000.020.020.030.000.010.030.010.010.010.030.000.020.020.030.000.010.030.010.010.010.030.000.020.010.010.000.000.000.000.000.000.000.000.020.010.010.000.000.000.000.000.000.000.001110111111062.556.25111.47111011111100011062.5010100.660.011.9700.7801.301.9501.9400.780
3079libllama.so - hashtable.h:2074-2077 [...]std::_Hashtable<std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::pair<std::pai...Single0.000.020.020.040.000.100.000.060.030.000.030.000.010.010.000.000.000.000.000.000.000.000.000.010.010.000.000.000.000.000.000.000.000.000.020.010.010.000.020.000.010.000.000.000.000.020.010.010.000.020.000.010.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000111010110102511201110101101NANANANANA0.0010101010101010
1855libggml-cpu.so - vec.h:740-745ggml_compute_forward_flash_attn_extInnermost0.000.000.010.000.020.000.000.030.030.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000101001101505011.1320010100110110000100.001010101010
41exec - main.cpp:663-681 [...]mainInnermost0.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000100000000016.28115.3300100000000NANANANANA0.0010
34exec - main.cpp:562-973 [...]mainOutermost0.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000100000000019.91111.0200100000000NANANANANA0.0010
2494libllama.so - stl_heap.h:229-235llama_token_data_array_partial_sort_inplace(llama_token_data_array*, int)Innermost0.000.000.000.000.050.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001100000016.21.33110.44000011000000004050.001010
1298libggml-cpu.so - ops.cpp:4319-4338 [...]ggml_compute_forward_rms_normOutermost0.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000010000000025114000100000000002050.0010
3061libllama.so - hashtable.h:2627-2644 [...]std::_Hashtable<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, int>, std::alloca...Outermost0.000.000.000.020.020.000.030.000.000.060.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.010.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000011010010NANANANANA00011010010NANANANANA0.0010101010
132libggml-base.so - ggml-alloc.c:453-592 [...]ggml_gallocr_reserve_nInBetween0.000.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001000000018.0611200001000000NANANANANA0.0010
1259libggml-cpu.so - ops.cpp:4319-4365 [...]ggml_compute_forward_rms_normOutermost0.000.000.000.000.000.000.000.030.030.030.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.010.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000001211024.422.415.0500000001111NANANANANA0.0010101010
379libggml-cpu.so - binary-ops.cpp:10-110 [...]ggml_compute_forward_add_non_quantizedOutermost0.000.000.000.000.000.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.090.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000000000102511200000000001NANANANANA0.0010
1357exec - regex_executor.tcc:47-88 [...]std::__detail::_Executor<__gnu_cxx::__normal_iterator<char const*, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::allocator<std::__cxx11::sub_match<__gnu_cxx::__normal_iterator<ch...Single0.000.000.000.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000000100019.73116.680000000010010000100.0010
1558libllama.so - llama-kv-cache.cpp:1239-1436 [...]llama_kv_cache::set_input_kq_mask(ggml_tensor*, llama_ubatch const*, bool) constInnermost0.000.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001000000012.222.75110.1900001000000NANANANANA0.0010
2474libllama.so - llama-sampling.cpp:364-451 [...]llama_sampler_chain_accept(llama_sampler*, int)Single0.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000010000000009.381110.6700100000000NANANANANA0.0010
97libggml-cpu.so - ggml-cpu.cpp:39-63 [...]ggml_backend_cpu_get_extra_buffer_types()Single0.000.000.000.020.020.030.030.030.030.030.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.010.010.010.000.000.000.000.000.010.000.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000001121334302511400011111111NANANANANA0.001010101010101010
1485libllama.so - llama-kv-cache.cpp:751-846 [...]llama_kv_cache::find_slot(llama_ubatch const&, bool) constInBetween0.000.000.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000001000017.99118.3500000001000NANANANANA0.0010
1020libggml-base.so - stl_uninitialized.h:642-642 [...]std::vector<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::allocator<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > > >::_M_default_appe...Single0.000.000.000.020.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000010010000014.26117.01000100100001001075.001010
1391libllama.so - basic_string.h:223-294 [...]replace_all(std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >&, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const&, std::__cxx11::basic_string<...Single0.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000010000000021.93115.3600010000000NANANANANA0.0010
1561libllama.so - stl_algobase.h:952-952llama_kv_cache::set_input_kq_mask(ggml_tensor*, llama_ubatch const*, bool) constSingle0.000.000.000.020.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000010010000050112000100100000010075.001010
3373libllama.so - hashtable.h:2077-2077 [...]std::_Hashtable<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const, unsigned char>, s...Single0.000.000.000.040.020.080.050.060.060.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.010.010.010.010.000.000.000.000.000.010.000.010.010.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000011111101025112000111111010002050.0010101010101010
239libggml-cpu.so - repack.cpp:1968-1981 [...]ggml_backend_cpu_repack_buffer_type()Single0.000.000.000.000.000.000.000.030.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000000101002511400000001010NANANANANA0.001010
74libggml-cpu.so - ggml-cpu.c:533-2897 [...]ggml_graph_compute_threadInnermost0.000.000.010.020.070.050.110.400.450.560.590.000.000.000.000.010.020.030.110.130.250.220.000.000.000.000.010.020.030.110.130.250.220.000.000.000.000.010.010.020.070.080.090.100.000.000.000.000.010.010.020.070.080.090.100.000.000.000.000.000.000.010.020.020.040.040.000.000.000.000.000.000.010.020.020.040.0400114122033424556020.57116.0800111.711.332.293.233.281.952.54NANANANANA0.00101010101010101010
1446libggml-cpu.so - vec.h:89-89ggml_compute_forward_get_rowsInnermost0.000.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001000000041.67112.4000010000000020075.0010
208libggml-base.so - ggml-impl.h:192-297 [...]ggml_backend_sched_split_graphInnermost0.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000010000000015.63118.62000100000001000233.3310
1652libllama.so - llama-kv-cells.h:171-487 [...]llama_kv_cells::set(std::vector<unsigned int, std::allocator<unsigned int> > const&, llama_kv_cells const&)InBetween0.000.000.000.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000000100017.79119.2300000000100NANANANANA0.0010
452libllama.so - stl_bvector.h:100-1542 [...]llama_batch_allocr::init(llama_batch const&, llama_vocab const&, llama_memory_i const*, unsigned int, unsigned int, bool)InBetween0.000.000.000.000.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00000000000106.8128.482.311.2700000000010NANANANANA0.0010
1512libllama.so - stl_tree.h:1947-1948 [...]llama_kv_cache::apply_ubatch(llama_kv_cache::slot_info const&, llama_ubatch const&)Innermost0.000.000.000.000.020.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001001000025114000010010000001050.001010
277libggml-base.so - ggml-impl.h:192-297 [...]ggml_backend_sched_get_tensor_backendSingle0.000.000.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000001000015.63118.62000000010001000233.3310
940libggml-base.so - new_allocator.h:172-172 [...]void std::_Destroy_aux<false>::__destroy<gguf_kv*>(gguf_kv*, gguf_kv*)Innermost0.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000001000000002511400010000000000.50075.0010
348libggml-cpu.so - traits.cpp:26-30 [...]ggml_cpu_extra_work_sizeSingle0.000.000.000.000.050.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001001000024.02115.39000010010000012062.191010
492libllama.so - llama-batch.cpp:636-636 [...]llama_batch_allocr::clear()Single0.000.000.000.000.000.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000000001025114000000000010010075.0010
1474libllama.so - llama-kv-cells.h:125-129 [...]llama_kv_cache::prepare(std::vector<llama_ubatch, std::allocator<llama_ubatch> > const&)Innermost0.000.000.000.000.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000000010014.58118.89000000000103000537.5010
2913libllama.so - new_allocator.h:172-172 [...]llama_decode_text(std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > const&)Single0.000.000.010.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000101000000019.72117.3900101000000NANANANANA0.001010
483libggml-cpu.so - binary-ops.cpp:18-110 [...]ggml_compute_forward_mulOutermost0.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.040.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.080.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.020.000.000.000.000.000.000.000.000010000000002511200100000000NANANANANA0.0010
2847libllama.so - basic_string.h:218-1084 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)Innermost0.000.000.000.020.000.000.030.000.060.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000010010100020.29117.8900010010100NANANANANA0.00101010
1528libggml-cpu.so - ops.cpp:6210-6484 [...]ggml_compute_forward_rope_f32(ggml_compute_params const*, ggml_tensor*, bool)Outermost0.000.000.010.020.020.030.050.030.060.030.060.000.000.000.000.000.000.000.000.000.010.010.000.000.040.070.090.100.080.070.090.100.090.000.000.000.000.000.000.010.010.010.010.010.000.000.030.040.020.040.040.030.040.040.040.000.000.000.000.000.000.000.000.000.000.000.000.000.020.020.020.020.010.010.010.020.01001223246913020.94115.050011111.3311.7111.73NANANANANA0.00101010101010101010
1838libggml-cpu.so - ops.cpp:8778-8920 [...]ggml_compute_forward_flash_attn_extOutermost0.000.000.010.000.000.000.030.000.030.030.000.000.000.000.000.000.000.000.000.000.000.000.000.001.360.000.000.000.520.000.500.380.000.000.000.000.000.000.000.000.000.000.000.000.000.000.640.000.000.000.130.000.190.090.000.000.000.000.000.000.000.000.000.000.000.000.000.000.680.000.000.000.090.000.080.060.000010002011002511400100010110NANANANANA0.0010101010
3248libllama.so - unicode.cpp:130-131 [...]unicode_cpt_flags_array()Innermost0.000.000.000.000.020.000.030.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000101001006.251116000010100101017058.33101010
1440libggml-cpu.so - ops.cpp:5371-5517 [...]ggml_compute_forward_get_rowsInBetween0.000.000.000.000.000.000.000.030.000.030.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000001011027.9711100000001011NANANANANA0.00101010
182libggml-base.so - ggml-impl.h:192-297 [...]ggml_backend_sched_split_graphInBetween0.000.000.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000001000016.0711200000001000NANANANANA0.0010
3080libllama.so - hashtable.h:2627-2644 [...]std::_Hashtable<std::pair<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> >, std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >, std::pair<std::pai...Outermost0.000.000.000.000.020.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001000001NANANANANA00001000001NANANANANA0.001010
644libllama.so - unique_ptr.h:93-397 [...]llama_context::memory_update(bool)Innermost0.000.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001000000021.091110.6700001000000NANANANANA0.0010
61libggml-cpu.so - ggml-cpu.c:1289-1297ggml_compute_forward_mul_matInBetween0.000.000.000.000.000.030.030.030.030.030.030.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.010.010.020.010.010.000.000.000.000.000.000.000.010.000.000.010.000.000.000.000.000.020.010.010.010.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000227345025114000001111111001075.00101010101010
2500libllama.so - stl_heap.h:140-142llama_token_data_array_partial_sort_inplace(llama_token_data_array*, int)Innermost0.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000100000000017.19117.86001000000000002050.0010
863libggml-cpu.so - vec.cpp:402-405 [...]ggml_vec_swiglu_f32Outermost0.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.00001000000003.725.355.7514.6300100000000NANANANANA0.0010
3350exec - stl_algobase.h:939-940std::vector<llama_token_data, std::allocator<llama_token_data> >::_M_default_append(unsigned long)Single0.000.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001000000017.19115.82000010000001010087.5010
710libllama.so - llama-context.cpp:1007-1251 [...]llama_context::decode(llama_batch const&)InBetween0.000.000.000.000.020.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000001000000022.1511100001000000NANANANANA0.0010
1491libllama.so - llama-kv-cache.cpp:810-810 [...]llama_kv_cache::find_slot(llama_ubatch const&, bool) constInnermost0.000.000.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000001000NANA1NANA00000001000NANANANANA0.0010
2935libllama.so - stl_tree.h:1963-1964 [...]llama_vocab_is_eogSingle0.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000100000025114000001000000001050.0010
1438libggml-cpu.so - ops.cpp:5352-5517 [...]ggml_compute_forward_get_rowsOutermost0.000.000.000.000.000.000.000.030.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000002010023.4411200000001010NANANANANA0.001010
904libggml-base.so - new_allocator.h:172-172 [...]bool gguf_read_emplace_helper<std::__cxx11::basic_string<char, std::char_traits<char>, std::allocator<char> > >(gguf_reader const&, std::vector<gguf_kv, std::allocator<gguf_kv> >&, std::__cxx11::basic_string<c...Innermost0.000.000.000.000.000.030.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000000010000102511400000100001NANANANANA0.001010
62libggml-cpu.so - ggml-cpu.c:1289-1297ggml_compute_forward_mul_matOutermost0.000.000.000.000.000.000.030.030.000.030.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.010.020.000.010.020.000.000.000.000.000.000.000.000.000.010.000.000.000.000.000.000.000.000.010.000.010.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000013013025114000000110111001075.0010101010
2848libllama.so - stl_uninitialized.h:642-642 [...]llama_vocab::impl::load(llama_model_loader&, LLM_KV const&)Innermost0.000.000.000.000.000.000.030.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000000010000016.41117.01000000100000012058.3310
200libggml-base.so - ggml-impl.h:192-297 [...]ggml_backend_sched_split_graphInnermost0.000.000.010.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.0000100000000015.63118.62001000000001000233.3310
×