]> www.infradead.org Git - linux.git/commitdiff
net: ena: Add ENA Express metrics support
authorDavid Arinzon <darinzon@amazon.com>
Mon, 9 Sep 2024 08:47:03 +0000 (11:47 +0300)
committerJakub Kicinski <kuba@kernel.org>
Fri, 13 Sep 2024 01:01:17 +0000 (18:01 -0700)
ENA Express metrics, called `ena_srd` are exposed to
customers via `ethtool`.
The metrics allow customers to check the configuration
(mode), tx/rx counters as well as resource utilization.

The documentation is also updated to provide a general
explanation about ENA Express as well as links for further
information about metrics and configurations.

Signed-off-by: Igor Chauskin <igorch@amazon.com>
Signed-off-by: David Arinzon <darinzon@amazon.com>
Link: https://patch.msgid.link/20240909084704.13856-2-darinzon@amazon.com
Signed-off-by: Jakub Kicinski <kuba@kernel.org>
Documentation/networking/device_drivers/ethernet/amazon/ena.rst
drivers/net/ethernet/amazon/ena/ena_admin_defs.h
drivers/net/ethernet/amazon/ena/ena_com.c
drivers/net/ethernet/amazon/ena/ena_com.h
drivers/net/ethernet/amazon/ena/ena_ethtool.c
drivers/net/ethernet/amazon/ena/ena_netdev.c
drivers/net/ethernet/amazon/ena/ena_netdev.h

index a4c7d0c65fd7e5aa8a5bad24512e36d0e9de18e6..4561e8ab9e085a1a19983f881d1c947308b9b05d 100644 (file)
@@ -230,6 +230,11 @@ per-queue stats) from the device.
 
 In addition the driver logs the stats to syslog upon device reset.
 
+On supported instance types, the statistics will also include the
+ENA Express data (fields prefixed with `ena_srd`). For a complete
+documentation of ENA Express data refer to
+https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/ena-express.html#ena-express-monitor
+
 MTU
 ===
 
index 6de0d590be34fe2a42ba7a57141ae6076ecf5485..74772b0068eaef1af03ab3009d4b25a5d2a8bb44 100644 (file)
@@ -51,6 +51,8 @@ enum ena_admin_aq_feature_id {
 /* device capabilities */
 enum ena_admin_aq_caps_id {
        ENA_ADMIN_ENI_STATS                         = 0,
+       /* ENA SRD customer metrics */
+       ENA_ADMIN_ENA_SRD_INFO                      = 1,
 };
 
 enum ena_admin_placement_policy_type {
@@ -99,6 +101,8 @@ enum ena_admin_get_stats_type {
        ENA_ADMIN_GET_STATS_TYPE_EXTENDED           = 1,
        /* extra HW stats for specific network interface */
        ENA_ADMIN_GET_STATS_TYPE_ENI                = 2,
+       /* extra HW stats for ENA SRD */
+       ENA_ADMIN_GET_STATS_TYPE_ENA_SRD            = 3,
 };
 
 enum ena_admin_get_stats_scope {
@@ -106,6 +110,16 @@ enum ena_admin_get_stats_scope {
        ENA_ADMIN_ETH_TRAFFIC                       = 1,
 };
 
+/* ENA SRD configuration for ENI */
+enum ena_admin_ena_srd_flags {
+       /* Feature enabled */
+       ENA_ADMIN_ENA_SRD_ENABLED                   = BIT(0),
+       /* UDP support enabled */
+       ENA_ADMIN_ENA_SRD_UDP_ENABLED               = BIT(1),
+       /* Bypass Rx UDP ordering */
+       ENA_ADMIN_ENA_SRD_UDP_ORDERING_BYPASS_ENABLED = BIT(2),
+};
+
 struct ena_admin_aq_common_desc {
        /* 11:0 : command_id
         * 15:12 : reserved12
@@ -419,6 +433,32 @@ struct ena_admin_eni_stats {
        u64 linklocal_allowance_exceeded;
 };
 
+struct ena_admin_ena_srd_stats {
+       /* Number of packets transmitted over ENA SRD */
+       u64 ena_srd_tx_pkts;
+
+       /* Number of packets transmitted or could have been
+        * transmitted over ENA SRD
+        */
+       u64 ena_srd_eligible_tx_pkts;
+
+       /* Number of packets received over ENA SRD */
+       u64 ena_srd_rx_pkts;
+
+       /* Percentage of the ENA SRD resources that is in use */
+       u64 ena_srd_resource_utilization;
+};
+
+/* ENA SRD Statistics Command */
+struct ena_admin_ena_srd_info {
+       /* ENA SRD configuration bitmap. See ena_admin_ena_srd_flags for
+        * details
+        */
+       u64 flags;
+
+       struct ena_admin_ena_srd_stats ena_srd_stats;
+};
+
 struct ena_admin_acq_get_stats_resp {
        struct ena_admin_acq_common_desc acq_common_desc;
 
@@ -428,6 +468,8 @@ struct ena_admin_acq_get_stats_resp {
                struct ena_admin_basic_stats basic_stats;
 
                struct ena_admin_eni_stats eni_stats;
+
+               struct ena_admin_ena_srd_info ena_srd_info;
        } u;
 };
 
index 713a595370bffa5a615073874bd3a99a4a8f286d..3cc3830de4825a66e81049768f7c63c7cbdafd23 100644 (file)
@@ -2152,6 +2152,27 @@ int ena_com_get_eni_stats(struct ena_com_dev *ena_dev,
        return ret;
 }
 
+int ena_com_get_ena_srd_info(struct ena_com_dev *ena_dev,
+                            struct ena_admin_ena_srd_info *info)
+{
+       struct ena_com_stats_ctx ctx;
+       int ret;
+
+       if (!ena_com_get_cap(ena_dev, ENA_ADMIN_ENA_SRD_INFO)) {
+               netdev_err(ena_dev->net_device, "Capability %d isn't supported\n",
+                          ENA_ADMIN_ENA_SRD_INFO);
+               return -EOPNOTSUPP;
+       }
+
+       memset(&ctx, 0x0, sizeof(ctx));
+       ret = ena_get_dev_stats(ena_dev, &ctx, ENA_ADMIN_GET_STATS_TYPE_ENA_SRD);
+       if (likely(ret == 0))
+               memcpy(info, &ctx.get_resp.u.ena_srd_info,
+                      sizeof(ctx.get_resp.u.ena_srd_info));
+
+       return ret;
+}
+
 int ena_com_get_dev_basic_stats(struct ena_com_dev *ena_dev,
                                struct ena_admin_basic_stats *stats)
 {
index 924f03f5a6c7d748533045f34832a16faac04412..372066e039bfb5b3ecfa189be223d3d8a4351f6b 100644 (file)
@@ -595,6 +595,15 @@ int ena_com_get_dev_basic_stats(struct ena_com_dev *ena_dev,
 int ena_com_get_eni_stats(struct ena_com_dev *ena_dev,
                          struct ena_admin_eni_stats *stats);
 
+/* ena_com_get_ena_srd_info - Get ENA SRD network interface statistics
+ * @ena_dev: ENA communication layer struct
+ * @info: ena srd stats and flags
+ *
+ * @return: 0 on Success and negative value otherwise.
+ */
+int ena_com_get_ena_srd_info(struct ena_com_dev *ena_dev,
+                            struct ena_admin_ena_srd_info *info);
+
 /* ena_com_set_dev_mtu - Configure the device mtu.
  * @ena_dev: ENA communication layer struct
  * @mtu: mtu value
index b24cc3f0524850b4efd5bc5075cbc8bf60318d76..5efd3e43ffa61a6b396b61b4065693c5503d1fa0 100644 (file)
@@ -41,6 +41,14 @@ struct ena_stats {
 #define ENA_STAT_ENI_ENTRY(stat) \
        ENA_STAT_HW_ENTRY(stat, eni_stats)
 
+#define ENA_STAT_ENA_SRD_ENTRY(stat) \
+       ENA_STAT_HW_ENTRY(stat, ena_srd_stats)
+
+#define ENA_STAT_ENA_SRD_MODE_ENTRY(stat) { \
+       .name = #stat, \
+       .stat_offset = offsetof(struct ena_admin_ena_srd_info, flags) / sizeof(u64) \
+}
+
 static const struct ena_stats ena_stats_global_strings[] = {
        ENA_STAT_GLOBAL_ENTRY(tx_timeout),
        ENA_STAT_GLOBAL_ENTRY(suspend),
@@ -60,6 +68,14 @@ static const struct ena_stats ena_stats_eni_strings[] = {
        ENA_STAT_ENI_ENTRY(linklocal_allowance_exceeded),
 };
 
+static const struct ena_stats ena_srd_info_strings[] = {
+       ENA_STAT_ENA_SRD_MODE_ENTRY(ena_srd_mode),
+       ENA_STAT_ENA_SRD_ENTRY(ena_srd_tx_pkts),
+       ENA_STAT_ENA_SRD_ENTRY(ena_srd_eligible_tx_pkts),
+       ENA_STAT_ENA_SRD_ENTRY(ena_srd_rx_pkts),
+       ENA_STAT_ENA_SRD_ENTRY(ena_srd_resource_utilization)
+};
+
 static const struct ena_stats ena_stats_tx_strings[] = {
        ENA_STAT_TX_ENTRY(cnt),
        ENA_STAT_TX_ENTRY(bytes),
@@ -112,7 +128,8 @@ static const struct ena_stats ena_stats_ena_com_strings[] = {
 #define ENA_STATS_ARRAY_TX             ARRAY_SIZE(ena_stats_tx_strings)
 #define ENA_STATS_ARRAY_RX             ARRAY_SIZE(ena_stats_rx_strings)
 #define ENA_STATS_ARRAY_ENA_COM                ARRAY_SIZE(ena_stats_ena_com_strings)
-#define ENA_STATS_ARRAY_ENI(adapter)   ARRAY_SIZE(ena_stats_eni_strings)
+#define ENA_STATS_ARRAY_ENI            ARRAY_SIZE(ena_stats_eni_strings)
+#define ENA_STATS_ARRAY_ENA_SRD                ARRAY_SIZE(ena_srd_info_strings)
 
 static void ena_safe_update_stat(u64 *src, u64 *dst,
                                 struct u64_stats_sync *syncp)
@@ -179,7 +196,7 @@ static void ena_dev_admin_queue_stats(struct ena_adapter *adapter, u64 **data)
 
 static void ena_get_stats(struct ena_adapter *adapter,
                          u64 *data,
-                         bool eni_stats_needed)
+                         bool hw_stats_needed)
 {
        const struct ena_stats *ena_stats;
        u64 *ptr;
@@ -193,15 +210,37 @@ static void ena_get_stats(struct ena_adapter *adapter,
                ena_safe_update_stat(ptr, data++, &adapter->syncp);
        }
 
-       if (eni_stats_needed) {
-               ena_update_hw_stats(adapter);
-               for (i = 0; i < ENA_STATS_ARRAY_ENI(adapter); i++) {
-                       ena_stats = &ena_stats_eni_strings[i];
+       if (hw_stats_needed) {
+               if (ena_com_get_cap(adapter->ena_dev, ENA_ADMIN_ENI_STATS)) {
+                       ena_com_get_eni_stats(adapter->ena_dev, &adapter->eni_stats);
+                       /* Updating regardless of rc - once we told ethtool how many stats we have
+                        * it will print that much stats. We can't leave holes in the stats
+                        */
+                       for (i = 0; i < ENA_STATS_ARRAY_ENI; i++) {
+                               ena_stats = &ena_stats_eni_strings[i];
 
-                       ptr = (u64 *)&adapter->eni_stats +
-                               ena_stats->stat_offset;
+                               ptr = (u64 *)&adapter->eni_stats +
+                                       ena_stats->stat_offset;
 
+                               ena_safe_update_stat(ptr, data++, &adapter->syncp);
+                       }
+               }
+
+               if (ena_com_get_cap(adapter->ena_dev, ENA_ADMIN_ENA_SRD_INFO)) {
+                       ena_com_get_ena_srd_info(adapter->ena_dev, &adapter->ena_srd_info);
+                       /* Get ENA SRD mode */
+                       ptr = (u64 *)&adapter->ena_srd_info;
                        ena_safe_update_stat(ptr, data++, &adapter->syncp);
+                       for (i = 1; i < ENA_STATS_ARRAY_ENA_SRD; i++) {
+                               ena_stats = &ena_srd_info_strings[i];
+                               /* Wrapped within an outer struct - need to accommodate an
+                                * additional offset of the ENA SRD mode that was already processed
+                                */
+                               ptr = (u64 *)&adapter->ena_srd_info +
+                                       ena_stats->stat_offset + 1;
+
+                               ena_safe_update_stat(ptr, data++, &adapter->syncp);
+                       }
                }
        }
 
@@ -214,9 +253,8 @@ static void ena_get_ethtool_stats(struct net_device *netdev,
                                  u64 *data)
 {
        struct ena_adapter *adapter = netdev_priv(netdev);
-       struct ena_com_dev *dev = adapter->ena_dev;
 
-       ena_get_stats(adapter, data, ena_com_get_cap(dev, ENA_ADMIN_ENI_STATS));
+       ena_get_stats(adapter, data, true);
 }
 
 static int ena_get_sw_stats_count(struct ena_adapter *adapter)
@@ -228,9 +266,8 @@ static int ena_get_sw_stats_count(struct ena_adapter *adapter)
 
 static int ena_get_hw_stats_count(struct ena_adapter *adapter)
 {
-       bool supported = ena_com_get_cap(adapter->ena_dev, ENA_ADMIN_ENI_STATS);
-
-       return ENA_STATS_ARRAY_ENI(adapter) * supported;
+       return ENA_STATS_ARRAY_ENI * ena_com_get_cap(adapter->ena_dev, ENA_ADMIN_ENI_STATS) +
+              ENA_STATS_ARRAY_ENA_SRD * ena_com_get_cap(adapter->ena_dev, ENA_ADMIN_ENA_SRD_INFO);
 }
 
 int ena_get_sset_count(struct net_device *netdev, int sset)
@@ -291,7 +328,7 @@ static void ena_com_dev_strings(u8 **data)
 
 static void ena_get_strings(struct ena_adapter *adapter,
                            u8 *data,
-                           bool eni_stats_needed)
+                           bool hw_stats_needed)
 {
        const struct ena_stats *ena_stats;
        int i;
@@ -301,10 +338,18 @@ static void ena_get_strings(struct ena_adapter *adapter,
                ethtool_puts(&data, ena_stats->name);
        }
 
-       if (eni_stats_needed) {
-               for (i = 0; i < ENA_STATS_ARRAY_ENI(adapter); i++) {
-                       ena_stats = &ena_stats_eni_strings[i];
-                       ethtool_puts(&data, ena_stats->name);
+       if (hw_stats_needed) {
+               if (ena_com_get_cap(adapter->ena_dev, ENA_ADMIN_ENI_STATS)) {
+                       for (i = 0; i < ENA_STATS_ARRAY_ENI; i++) {
+                               ena_stats = &ena_stats_eni_strings[i];
+                               ethtool_puts(&data, ena_stats->name);
+                       }
+               }
+               if (ena_com_get_cap(adapter->ena_dev, ENA_ADMIN_ENA_SRD_INFO)) {
+                       for (i = 0; i < ENA_STATS_ARRAY_ENA_SRD; i++) {
+                               ena_stats = &ena_srd_info_strings[i];
+                               ethtool_puts(&data, ena_stats->name);
+                       }
                }
        }
 
@@ -317,11 +362,10 @@ static void ena_get_ethtool_strings(struct net_device *netdev,
                                    u8 *data)
 {
        struct ena_adapter *adapter = netdev_priv(netdev);
-       struct ena_com_dev *dev = adapter->ena_dev;
 
        switch (sset) {
        case ETH_SS_STATS:
-               ena_get_strings(adapter, data, ena_com_get_cap(dev, ENA_ADMIN_ENI_STATS));
+               ena_get_strings(adapter, data, true);
                break;
        }
 }
index 184b6e6cbed457f79afc0216cc87cc3de0bb2644..0883c9a230f23f5ca5f36cc2b8ea893a5c71092a 100644 (file)
@@ -2798,19 +2798,6 @@ err:
        ena_com_delete_debug_area(adapter->ena_dev);
 }
 
-int ena_update_hw_stats(struct ena_adapter *adapter)
-{
-       int rc;
-
-       rc = ena_com_get_eni_stats(adapter->ena_dev, &adapter->eni_stats);
-       if (rc) {
-               netdev_err(adapter->netdev, "Failed to get ENI stats\n");
-               return rc;
-       }
-
-       return 0;
-}
-
 static void ena_get_stats64(struct net_device *netdev,
                            struct rtnl_link_stats64 *stats)
 {
index d59509747d1aaceb53b695cdf45d08ae2509628f..6e12ae3b12e5b90379efad95f73fe493671537b1 100644 (file)
@@ -373,6 +373,7 @@ struct ena_adapter {
        struct u64_stats_sync syncp;
        struct ena_stats_dev dev_stats;
        struct ena_admin_eni_stats eni_stats;
+       struct ena_admin_ena_srd_info ena_srd_info;
 
        /* last queue index that was checked for uncompleted tx packets */
        u32 last_monitored_tx_qid;
@@ -390,7 +391,6 @@ void ena_dump_stats_to_dmesg(struct ena_adapter *adapter);
 
 void ena_dump_stats_to_buf(struct ena_adapter *adapter, u8 *buf);
 
-int ena_update_hw_stats(struct ena_adapter *adapter);
 
 int ena_update_queue_params(struct ena_adapter *adapter,
                            u32 new_tx_size,